Inihain ng punong siyentipiko ng OpenAI: Magtakda ng “limitasyon sa industriya” para sa pag-develop ng AI bago sumabay ang kapasidad ng pag-unawa
Ang punong siyentipiko ng OpenAI na si Jakub Pachocki ay nagmungkahi na ang mga kumpanyang gumagawa ng artificial intelligence ay dapat magkasundo na magtakda ng mga limitasyon sa pagbuo ng lalong makapangyarihang mga modelo, hanggang sa makahanap ang mga mananaliksik ng mas mahusay na paraan upang maunawaan at mabantayan ang pag-uugali ng mga modelo.
Nabalitaan ng Zhihu Financial APP na iminungkahi ni Jakub Pachocki, ang pangunahing siyentipiko ng OpenAI, na ang mga kumpanya ng artipisyal na intelihensiya ay dapat magkaroon ng pagkakasundo na magtakda ng mga limitasyon sa pagbuo ng mas makapangyarihang mga modelo, hangga't wala pang mas mahusay na paraan ang mga mananaliksik para maintindihan at mabantayan ang gawi ng mga modelong ito.
Ayon sa artikulo na inilathala niya noong Linggo, nananawagan si Pachocki na magtatag ng pamantayan sa buong industriya upang magtakda ng mga threshold para sa AI development, kung saan nangangakong hindi tatawid ang mga kompanya sa mga threshold na iyon hangga’t hindi natutugunan ang partikular na mga pangangailangan sa kaligtasan.
"Iminumungkahi ko pa na magtakda ng karaniwang limitasyon—base sa perplexity at iba pang pagsusukat—kung saan nangangako ang mga developer na hindi lalampas sa mga hangganang ito bago natin marating ang isang partikular na milestone sa 'kakayahan nating unawain at bantayan ang asal ng AI'," iginiit ni Pachocki.
Ang iminungkahing limitasyon ay maaaring bahagyang nakabatay sa isang teknikal na panukat na tinatawag na "perplexity"—ito ay sumusukat kung gaano kasakto ang AI model sa paghula ng susunod na bahagi ng teksto. Hindi tinukoy ni Pachocki kung magkano ang panimulang limitasyon o kailan ito ipatutupad.
Binalaan niya na maaaring sa kasing aga ng 2027 ay mapabilis ng AI ang sarili nitong proseso ng pag-unlad, na posibleng humigit sa bilis ng mga mananaliksik na mabantayan at maunawaan ang pag-unlad ng teknolohiyang ito.
Inihayag ni Sam Altman, CEO ng OpenAI, ang kanyang suporta sa mungkahing ito, na binanggit na ang artikulo ni Pachocki ay "ang pinakamahalagang anunsyo ng OpenAI sa nakaraang panahon." Sa mensahe niya sa X, sinabi niyang ang pagkakaroon ng pagkakaisa sa karaniwang limitasyon ay makakatulong upang matiyak ang "kaligtasan at kontrol."
Kapanapanabik ang timing ng mungkahi—naghahanda ang Estados Unidos para sa panibagong yugto ng debate ukol sa AI regulation. Dahil sa malaking tagumpay ng Democratic Party sa midterm elections—sa House of Representatives, Senado, at pagka-gobernador—maaaring magbunsod ito ng mas mahigpit na regulasyon ng Kongreso sa mga tech companies at muling paigtingin ang mga pagsisikap sa paggawa ng batas para sa AI safety rules.
Ilang mga mambabatas ay nagtatala rin ng posibilidad na magtatag ng isang partikular na komite ng Senado para tumutok sa AI policy. Samantala, patuloy na tinutulan ni Pangulong Trump ang malawakang limitasyon sa pag-unlad ng AI—isang sitwasyong maaaring magdulot ng tensyon sa pagitan ng White House at ng papasok na Democratic Congress sa kung paano ireregulate ang AI.
Disclaimer: Ang nilalaman ng artikulong ito ay sumasalamin lamang sa opinyon ng author at hindi kumakatawan sa platform sa anumang kapasidad. Ang artikulong ito ay hindi nilayon na magsilbi bilang isang sanggunian para sa paggawa ng mga desisyon sa investment.




