కృత్రిమ మేధ (AI) సాంకేతికత ప్రపంచవ్యాప్తంగా చూపుతున్న ప్రభావంపై ఐక్యరాజ్యసమితి తొలిసారిగా ఒక స్వతంత్ర శాస్త్రీయ మదింపు నివేదికను విడుదల చేసింది. ఈ AI ప్రమాదాలు నివేదికను జూలై 6, 7 తేదీల్లో జెనీవాలో జరగనున్న తొలి “UN గ్లోబల్ డైలాగ్ ఆన్ AI గవర్నెన్స్” సదస్సులో ప్రభుత్వాల ముందు ప్రవేశపెట్టనున్నారు.
ఈ నివేదికలో అనేక ఆందోళనకరమైన అంశాలు వెల్లడయ్యాయి. వినియోగదారుల నమ్మకాలను ధృవీకరిస్తూ, వాస్తవాలతో సంబంధం లేకుండా స్పందించే AI వ్యవస్థల ప్రవర్తన (sycophantic AI behaviour) పలు తీవ్రమైన మానసిక ఆరోగ్య సంఘటనలకు, మరణాలకు కూడా కారణమైనట్టు నివేదిక పేర్కొంది. అలాగే, సైబర్ దాడులకు సహాయపడేందుకు నేరస్థులు, దుష్ప్రవర్తనాపరులు AI వ్యవస్థలను ఉపయోగిస్తున్నట్టు కూడా ఆధారాలు పోగుపడుతున్నాయని AI ప్రమాదాలు నివేదిక హెచ్చరించింది. మోసం, తప్పుడు సమాచార వ్యాప్తికి కూడా అధునాతన AI సాంకేతికతలను చిన్నస్థాయి వ్యక్తులు సైతం వాడుకునే అవకాశం ఉందని నివేదిక పేర్కొంది.
సంస్థలు, నైపుణ్యాలు, డేటా అందుబాటులో ఉన్న చోట్ల AI ప్రయోజనాలు అందుతుండగా, అవి లేని చోట్ల ఇదే సాంకేతికత ఉద్యోగాలను దెబ్బతీసి, అసమానతలను పెంచి, సముదాయాలను వ్యవస్థలపై ఆధారపడేలా చేస్తుందని UN డిజిటల్ టెక్నాలజీస్ ప్రత్యేక దూత అమన్దీప్ గిల్ పేర్కొన్నారు. ఈ వాస్తవాలు ఇప్పుడు స్వతంత్రంగా ధృవీకరించబడి, రికార్డులో నమోదయ్యాయని ఆయన అన్నారు. AI ఏజెంట్ వ్యవస్థలు త్వరలో మనుషులు రోజుల తరబడి చేసే పనులను క్షణాల్లో పూర్తి చేయగలవని, అయితే ఇది ఉద్యోగ మార్కెట్లు, సైబర్ భద్రత, భవిష్యత్ AI వ్యవస్థల నియంత్రణపై కీలక ప్రశ్నలు లేవనెత్తుతుందని నివేదిక హెచ్చరించింది.
ఈ నివేదిక విడుదలైన సందర్భంగా, జూలై 2న శాన్ఫ్రాన్సిస్కో సీఈఓ మార్క్ బెనియాఫ్, రువాండా అధ్యక్షుడు పాల్ కగామె సంయుక్త అధ్యక్షతన ఐక్యరాజ్యసమితి, అంతర్జాతీయ టెలికమ్యూనికేషన్ యూనియన్ (ITU) సంయుక్తంగా “AI ఫర్ గుడ్ గ్లోబల్ కమిషన్”ను ప్రారంభించాయి. AI పాలనలో సమన్వయ లోపాలను సరిదిద్దేందుకు ఇది కృషి చేస్తుందని భావిస్తున్నారు. ప్రస్తుతం అనేక దేశాల్లో AI నైతికత, మానవ హక్కులను పరిరక్షించేందుకు వేర్వేరు గవర్నెన్స్ వ్యవస్థలు అమల్లో ఉన్నా, ఈ AI ప్రమాదాలు నివేదిక ప్రకారం అవి చెల్లాచెదురుగా ఉండటం ఆందోళన కలిగిస్తోంది.