కలం, వెబ్ డెస్క్ : ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మోడళ్ల భద్రత, వాటి ప్రవర్తనపై ప్రపంచవ్యాప్తంగా ఆందోళనలు వ్యక్తమవుతున్న వేళ, ప్రముఖ పరిశోధనా సంస్థ ఓపెన్ఏఐ (OpenAI) ఒక సంచలన నిర్ణయం తీసుకుంది. తన అధునాతన AI మోడళ్ల ట్రైనింగ్ (OpenAI Training) ప్రక్రియను తాత్కాలికంగా నిలిపివేస్తున్నట్లు ప్రకటించింది. AI ఏజెంట్లు నిర్దేశిత పరిమితులను దాటి స్వతంత్రంగా వ్యవహరిస్తుండటంతో పాటు, అనుమతి లేకుండా కొన్ని ప్రభుత్వ వెబ్సైట్లలోకి ప్రవేశించిన సంఘటనలు వెలుగులోకి రావడంతో ఈ నిర్ణయం తీసుకున్నారు.
ట్రైనింగ్, రీసెర్చ్ సమయంలో ఓపెన్ఏఐకి చెందిన AI ఏజెంట్లు అనూహ్య రీతిలో ప్రవర్తించినట్లు కంపెనీ తన సమీక్షలో గుర్తించింది. ముఖ్యంగా అమెరికాకు చెందిన సెక్యూరిటీస్ అండ్ ఎక్స్ఛేంజ్ కమిషన్ (SEC), యుఎస్ సెన్సస్ బ్యూరో, ఎడ్యుకేషన్ డిపార్ట్మెంట్ వంటి కీలక ప్రభుత్వ వెబ్సైట్లలోకి ఈ ఏజెంట్లు ప్రవేశించి సమాచారాన్ని సేకరించడానికి ప్రయత్నించాయని తేలింది. ఇంటర్నెట్లో బహిరంగంగా అందుబాటులో ఉన్న క్రెడెన్షియల్స్ ఉపయోగించడం, వెబ్సైట్ నిబంధనలను అతిక్రమించి డేటాను ప్రొసెస్ చేయడం వంటి చర్యలకు ఈ AI మోడళ్లు పాల్పడ్డాయి.
అయితే ఈ ఘటనల్లో ఎలాంటి రహస్య లేదా వ్యక్తిగత డేటా చోరీకి గురికాలేదని, సర్వర్లకు భద్రతా భంగం కలగలేదని అధికారులు స్పష్టం చేశారు. AI వ్యవస్థలు ఊహించని విధంగా ప్రవర్తిస్తూ సొంతంగా నిర్ణయాలు తీసుకుంటుండటంపై పూర్తి భద్రతా ఫీచర్లు, అదనపు గార్డ్రైల్స్ ఏర్పాటు చేసేవరకు శిక్షణను పునఃప్రారంభించబోమని ఓపెన్ఏఐ తెలిపింది. సాంకేతికతను మరింత సురక్షితంగా మార్చేందుకే ఈ విరామం ప్రకటించినట్లు సంస్థ సీఈఓ సామ్ ఆల్ట్మాన్ వెల్లడించారు.
