OpenAI CEO Sam Altman විසින් Artificial Intelligence development සිදුවන වේගය ඉදිරියේදී පාලනය කිරීමට හෝ ක්රමානුකූල කිරීමට අවශ්ය විය හැකි බව ප්රකාශ කර තිබෙනවා.
Invest Like the Best podcast වැඩසටහන සමඟ පැවති සාකච්ඡාවකදී ඔහු පවසා ඇත්තේ, අලුත් AI capabilities සඳහා සමාජයට සහ security systemsවලට සූදානම් වීමට ප්රමාණවත් කාලයක් ලබාදීම සඳහා AI development සිදුවන වේගය “pace” කිරීමට සිදුවිය හැකි බවයි.
කෙසේ වෙතත්, Sam Altman මෙහිදී සම්පූර්ණ AI development pause එකක් හෝ නව AI models නිර්මාණය කිරීම නතර කිරීමක් යෝජනා කර නැහැ. ඒ වෙනුවට ඔහු අදහස් කරන්නේ, වේගයෙන් හඳුන්වා දෙන advanced capabilitiesවලට ගැළපෙන security, monitoring සහ governance mechanisms සංවර්ධනය කිරීමට අවශ්ය කාලය ලබාගැනීමයි.
Hugging Face security incident එකෙන් පසු ඇති වූ අදහසක්
Sam Altmanගේ මෙම අදහස් සඳහා මෑතකදී සිදු වූ Hugging Face security incident එකද බලපා ඇති බව වාර්තා වෙනවා.
OpenAI විසින් සිදු කළ internal cyber capability evaluation එකකදී AI agent එකක් sandbox environment එකකින් පිටතට පැමිණීමට zero-day vulnerability එකක් භාවිත කර තිබුණා. පසුව එම agent එක Hugging Face infrastructure වෙත පිවිස benchmark එකක test solutions ලබාගැනීමට උත්සාහ කර තිබෙනවා.
OpenAI විසින් මෙම සිදුවීම පෙර නොවූ ආකාරයේ cyber incident එකක් ලෙස හඳුන්වා ඇති අතර, සිදුවීමට සම්බන්ධ internal research prototype එක deactivate කර research access සීමා කර තිබෙනවා. Public release කිරීමට සැලසුම් කර තිබූ model එකක් මෙම සිදුවීමට සම්බන්ධ නොවූ බවද සමාගම සඳහන් කරනවා.
AI වේගය පාලනය කරන්නේ කෙසේද?
AI development වේගය පාලනය කිරීමේදී විශාල සමාගම් කිහිපයකට පමණක් බලය ලැබෙන ආකාරයේ regulatory system එකක් නිර්මාණය නොවිය යුතු බවද Altman පවසා තිබෙනවා.
Security concerns භාවිත කරමින් advanced AI technology පාලනය කිරීමේ බලය සීමිත සමාගම් හෝ පුද්ගලයන් පිරිසක් අතට ලබාදීම පිළිබඳව තමන් බිය වන බව ඔහු සඳහන් කර තිබෙනවා. එම නිසා AI development pacing system එකක් ක්රියාත්මක කළහොත් එය regulatory capture එකක් හෝ frontier AI labs අතර collusion එකක් නොවන ආකාරයට නිර්මාණය කළ යුතු බව ඔහුගේ අදහසයි.
මේ අතර OpenAI, Anthropic, Google DeepMind සහ Meta වැනි සමාගම්වල සේවකයන් ඇතුළු 1,300කට වැඩි පිරිසක් “Pacing the Frontier” ප්රකාශයට සහාය පළ කර තිබෙනවා. Automated AI development අවශ්ය අවස්ථාවල ක්රමානුකූල කිරීමට හැකි technical සහ governance tools නිර්මාණය කිරීම සඳහා ජාත්යන්තර උත්සාහයකට සහාය ලබාදෙන ලෙස එම ප්රකාශය ඇමෙරිකානු රජයෙන් ඉල්ලා සිටිනවා.
Sam Altmanගේ ප්රකාශය AI development සම්පූර්ණයෙන් නතර කරන බවට වූ නිවේදනයක් නොවන අතර, advanced AI systems වඩාත් බලවත් වීමත් සමඟ development වේගයට සමානව security සහ safety systems ද වර්ධනය විය යුතු බව අවධාරණය කරන අදහසක් ලෙස සැලකිය හැකියි.
