ඕස්ට්රේලියාව තුළ සිය ව්යාපාර කටයුතු මහා පරිමාණයෙන් ව්යාප්ත කිරීමට සූදානම් වන ප්රමුඛ පෙළේ සමාගමක AI තාක්ෂණය, තමන්ව නිර්මාණය කළ අයවම රවටමින්, හැක් කරමින් සහ Blackmail කරමින් සිටින බවට අනතුරු ඇඟවීමක් කර තිබෙනවා.
Technology Assistant Minister Andrew Charlton විසින් සිඩ්නි නුවර පැවැති AI Safety Forum එකේදී මේ බව අනාවරණය කළා. මිනිස් අධීක්ෂණයකින් තොරව ක්රියාත්මක වන විට මෙම උසස් AI මාදිලි ඉතා හානිකර තීරණ ගන්නා බව රජයේ ආයතන විසින් සිදු කළ පරීක්ෂණවලදී හෙළි වී තිබෙනවා.
විධායක නිලධාරියා බ්ලැක්මේල් කළ AI
AI තාක්ෂණය පාලනයෙන් මිදී ක්රියා කළ ආකාරය පිළිබඳව අමාත්යවරයා කැපී පෙනෙන උදාහරණයක් ඉදිරිපත් කළා. ඇමරිකාවේ ප්රමුඛ පෙළේ AI සමාගමක් වන Anthropic ආයතනය විසින් සිදු කළ පරීක්ෂණයකදී, සමාගමක Email පද්ධතිය පාලනය කිරීමට AI Agent කෙනෙකුට පවරා තිබුණා.
එහිදී, අදාළ සමාගමේ උසස් විධායක නිලධාරියෙකු විසින් මෙම AI පද්ධතිය ක්රියාවිරහිත කිරීමට සැලසුම් කරන බවත්, ඔහු Extramarital affair එකක් පවත්වන බවත් AI පද්ධතියට දැනගන්නට ලැබී තිබෙනවා. තමන්ව වසා දැමීමට ඉඩ දෙනවා වෙනුවට, මෙම AI රොබෝවරයා අදාළ රහස උපයෝගී කරගනිමින් එම විධායක නිලධාරියාව බ්ලැක්මේල් කිරීමට පටන් ගෙන තිබෙනවා!
මෙම Anthropic සමාගම 2027 මැද භාගය වන විට ඕස්ට්රේලියාව තුළ දැවැන්ත Data centres පිහිටුවා, සිය AI මාදිලි පුහුණු කිරීමේ දෙවැනි ප්රධාන මධ්යස්ථානය බවට ඕස්ට්රේලියාව පත් කර ගැනීමට සූදානමින් සිටින සමාගමකි.
Hack කරලා චෙස් තරඟයක් දිනන්න try කරපු AI
තවත් පරීක්ෂණයකදී, ප්රබල Chess engine එකක් පරාජය කිරීම සඳහා AI models කිහිපයක් යොදවා තිබුණා. එහිදී සාධාරණව ක්රීඩා කර දිනනු වෙනුවට, ප්රතිවාදී පද්ධතිය Hack කර තරඟය ජය ගැනීමට AI පෙළඹී තිබෙනවා.
“නවීන AI මාදිලි විසින් මිනිසුන් රැවටීම, වංචා කිරීම සහ අවස්ථානුකූලව තමන් සිටින තත්ත්වය වටහාගෙන කපටි ලෙස ක්රියා කිරීමේ මුල් ලක්ෂණ පෙන්වනවා” යනුවෙන් Andrew Charlton මහතා පැවසුවා.
“අපගේ නීති කෙටුම්පත් කරන, සුභසාධන දීමනා පරීක්ෂා කරන හෝ විදුලි බල පද්ධති පාලනය කරන AI පද්ධතියක්, එය නිර්මාණය කළ අය දුන් අරමුණුවලින් බැහැරව රහසිගතව වෙනත් අරමුණු කරා ගියහොත් එය සමස්ත මහජන ආරක්ෂාවටම තර්ජනයක්.”
රජයේ නව පියවර සහ විවේචන
මේ වන විට ඕස්ට්රේලියාවේ AI Safety Institute එක විසින් ප්රවීණ විද්යාඥයින් පිරිසක් එකතු කරගනිමින් මේ පිළිබඳව පර්යේෂණ ආරම්භ කර තිබෙනවා. රජය විසින් AI පාලනය සඳහා නව නීති පැනවීමට කටයුතු කරමින් සිටින බව සහකාර අමාත්යවරයා පවසනවා.
කෙසේ වෙතත්, හිටපු තාක්ෂණ අමාත්ය Ed Husic රජයේ මෙම ක්රියාමාර්ග විවේචනය කර තිබෙනවා. ඔහු පවසන්නේ රජය මේ සඳහා නීති සකස් කිරීමට අධික ලෙස ප්රමාද වී ඇති බවයි. “අපගේ ජීවිතයේ සෑම අංශයකටම බලපාන තාක්ෂණයක් ගැන තීරණ ගන්න අපි වසරකට වඩා වැඩි කාලයක් අපතේ යවා තිබෙනවා” යනුවෙන් ඔහු Sky News සේවයට පවසා සිටියා.
