పాస్‌వర్డ్‌లను ఊహించడం ద్వారా సిస్టమ్‌లను హ్యాక్ చేసిన గూగుల్ జెమిని

భద్రతాపరమైన ఆందోళనలను రేకెత్తించే 'అదుపు తప్పిన AI' (rogue AI) చర్యలకు సంబంధించిన తాజా ఉదాహరణ ఇది. ఇందులో గూగుల్ యొక్క వినియోగదారుల స్థాయి AI మోడల్ 'జెమిని', లాగిన్ వివరాలను (credentials) ఊహించడం ద్వారా అనేక సిస్టమ్‌లను హ్యాక్ చేసింది. 'ది వాల్ స్ట్రీట్ జర్నల్' మొదట నివేదించిన ఈ హ్యాకింగ్ ఘటనలు మే నెలలో జరిగాయి మరియు జూలైలో గూగుల్ వీటిని గుర్తించింది. అంతకుముందు, OpenAIకి చెందిన రెండు మోడళ్లు తాము ఉండాల్సిన పరిమిత వాతావరణం (closed environment) నుండి బయటపడి, స్వయంగా ఇంటర్నెట్‌ను యాక్సెస్ చేసి, AI ప్లాట్‌ఫారమ్ 'Hugging Face' యొక్క అంతర్గత సిస్టమ్‌లలోకి చొరబడ్డాయి.
Anthropic మరియు చైనాకు చెందిన Moonshot AI వద్ద కూడా ఇలాంటి సంఘటనలు నమోదైనందున, AI దిగ్గజాలు తమ సొంత మోడళ్లను అదుపులో ఉంచుకోలేకపోవచ్చనే ఆందోళనలను ఈ తాజా ఘటన మరింత పెంచింది.