Bitget App
Mag-trade nang mas matalino
Buy cryptoMarketsTradeFuturesStocksEarnInstitusyonAI & More
Anthropic nagpalabas ng sariling babala sa seguridad bago ang IPO: Mas mabilis kaysa inaasahan ang pag-unlad ng AI

Anthropic nagpalabas ng sariling babala sa seguridad bago ang IPO: Mas mabilis kaysa inaasahan ang pag-unlad ng AI

华尔街见闻华尔街见闻2026/11/19 10:16
Ipakita ang orihinal
By:华尔街见闻

Inihayag ng Anthropic sa kanilang IPO na ang bilis ng pag-unlad ng AI research ay nag-trigger ng karagdagang safety mechanisms ng kumpanya. Natuklasan ng METR, isang evaluation body, na ang pag-unlad ng teknolohiya ng Anthropic sa nakaraang taon ay katumbas ng dalawang taon sa nakaraan, at ang AI ay aktibo sa sariling pag-develop, kaya’t lalong bumibilis ang prosesong ito. Ang panganib ng uncontrollable recursive self-improvement ay nagdulot din ng pangamba sa larangan ng AI safety.

Habang papalapit ang Anthropic sa pagpasok nito sa Wall Street, isiniwalat nito sa kanilang dokumento ng paglalista na may isang alerta sa seguridad: ang bilis ng pag-unlad ng AI ng kompanya ay umabot na sa itinalagang threshold ng kaligtasan, kaya kinakailangang simulan ang karagdagang mga hakbang sa seguridad.

Noong Nobyembre 19, ayon sa ulat ng Financial Times, kinumpirma ng Anthropic sa na-update na IPO filing nito na ang bilis ng pag-unlad ng kanilang teknolohiya ay nag-trigger ng karagdagang mekanismong pangkaligtasan na nakasaad sa “Responsible Scaling Policy” na ginawa noong 2023. Ang pagsisiwalat na ito ay naganap kasabay ng pagtatakda ng IPO price ng kompanya sa $83 kada share, na mas mataas kaysa sa naunang gabay, at may tinatayang pagpapahalaga na humigit-kumulang 1.5 trilyong dolyar.

Ang batayan ng pag-trigger ng mekanismong pangkaligtasan ay nagmula sa isang ulat nitong buwan ng nobyembre mula sa METR, isang institusyong nagsusuri ng AI capabilities. Matapos magkaroon ng malawak na access sa sistema, personnel, at hindi pa nailalathalang mga modelo ng Anthropic, natuklasan ng METR na ang AI ng Anthropic sa nakalipas na taon ay umabot na sa antas ng halos dalawang taong historical progress. Ang paggamit ng mga mananaliksik sa mga AI tool upang mapabilis ang sariling R&D ay naging mahalagang salik sa pagtulak ng trend na ito.

Nadoble ang bilis ng AI progress, na-activate ang internal na mga mekanismong pangkaligtasan

Ang METR ay isang research organization na nakatuon sa pagsusuri ng mga advanced AI capacities at risks. Ipinapakita ng pinakabagong ulat nito na sa nakalipas na 12 buwan, nakamit ng Anthropic ang teknikal na pag-unlad na karaniwang inuukupa ng dalawang taon, at nadoble ang bilis ng improvement kumpara sa nagdaang taon.

Naabot ng bilis na ito ang threshold ng kaligtasan na itinakda ng Anthropic. Ayon sa patakarang itinakda ng kompanya noong 2023, kapag ang mga pag-unlad sa AI ay na-compress ang dalawang taong progreso sa loob lamang ng isang taon, kinakailangan nang magpatupad ng mas mahigpit na mga supervisory measures sa kaligtasan.

Ayon sa Anthropic, ang paghusga na ito ay batay sa inaasahang kakayahan ng mga hinaharap na modelo at sa kabuuang bilis ng progreso, ngunit hindi ibig sabihin na ang AI system ay ganap nang kayang mag-improve ng sarili nito. Ang karagdagang mga hakbang ay sasaklaw sa seguridad, istruktura ng pamamahala, at internal na pagsusuri sa proseso ng pagbuo ng modelo.

Tumugon si Sam McCandlish, executive ng Anthropic, na maraming konklusyon sa METR report ay tugma sa kanyang sariling pananaw. Inamin niyang bumibilis ang AI sa research work ng kompanya, ngunit mahirap pa ring sukatin nang eksakto ang epektong ito.

Lumalahok ang AI sa sariling development, tumataas ang risk ng recursive improvement

Sa likod ng mabilis na pag-usad ng teknolohiya ay ang pagtaas ng pakikilahok ng AI mismo sa pagbuo ng susunod na henerasyon ng AI systems. Tinatawag itong “Recursive Self-Improvement” (RSI), kung saan ginagamit ng AI systems ang sarili nitong kakayahan upang makatulong sa pag-develop ng mas malakas na mga modelo.

Inilahad ng Anthropic sa kanilang prospectus na ang kakayahan ng isang modelo na tumulong sa pagbuo ng susunod dito—isang “closed-loop” na R&D process—ay isang mahalagang kalamangan laban sa mga kakumpitensya, at malaki ang naitulong nito sa efficiency ng paggamit ng computing power.

Ngunit nagdadala rin ito ng mga bagong panganib sa seguridad. Ayon kay Marius Hobbhahn, CEO ng Apollo Research, nagkaiba-iba ang pananaw ng mga mananaliksik tungkol sa kung kailan mararating ang recursive self-improvement, ngunit ngayo’y tila lumiit na ang time window na ito at malayo pa ang industriya sa sapat na paghahanda sa seguridad.

Naniniwala ang samahan sa seguridad ng AI na “The AI Futures Project” na nakakagulat ang trend ng acceleration na ipinakita sa ulat ng METR, at hinulaang posibleng lumitaw ang superhuman AI researcher pagsapit ng 2027. Ayon dito, napakaaggap ng pangangailangan na i-pause o seryosong pabagalin ang pag-develop ng pinakasulong na AI.

Noong Setyembre ng nakaraang taon, iminungkahi rin ni Dario Amodei, CEO ng Anthropic, na dapat lagyan ng “speed limit” ang bilis ng recursive self-improvement ng AI, dahil ang naturang pag-unlad ay maaaring sobrang bilis na nakakabigla.

Tinatalo ang seguridad ng Anthropic, tumitindi ang kritisismo mula sa labas

Kasabay ng pagsisiwalat ng Anthropic ng pag-activate ng kanilang mekanismong pangkaligtasan, lumalakas din ang mga tanong mula sa labas ukol sa kanilang security position.

Noong Miyerkules, isang alyansa ng mga AI researcher at safety advocates na pinamunuan ng nonprofit na “Center for AI Safety” at kinabibilangan ng mga founder ng Hugging Face at xAI, ay naglabas ng pampublikong pahayag na inakusahan ang Anthropic na ginagamit ang imahe nito ng pagiging ligtas upang akitin ang mga mamumuhunan, empleyado, at publiko, at diretsahan nilang sinabing “hindi ito isang ligtas na AI company.”

Partikular na binigyang-diin sa pahayag na habang pinapansin ng Anthropic ang peligro ng recursive self-improvement na maaaring magresulta sa pagkonsentra ng kapangyarihan at pagkawala ng kontrol ng tao, kasabay namang nakikipag-unahan itong i-develop ang naturang teknolohiya.

May mga kaparehong pag-aalala rin sa loob ng AI industry. Sinabi ni Paul Christiano, kasapi ng OpenAI board at AI safety researcher, kamakailan sa isang podcast na tumataas ang level ng automation sa AI development, at maaaring sa maikling panahon ay magdala ito ng napakalakas na AI. Kung maganap ang mabilis na “intelligence explosion” at makarating sa superintelligence ang industriya, maaaring mawalan ng kakayahan ang tao na kontrolin ang mga sistemang kanilang nabuo.

Ayon kay Hobbhahn, kahit mag-fail ang IPO ng Anthropic at maging masama ang takbo ng AI financing market, hindi ibig sabihin nito ay mapipigilan ang teknolohiya sa pagsulong. Aniya, may sapat na resources ang mga existing na AI labs upang isulong ang dalawa pang major breakthroughs sa teknolohiya; kahit pumutok ang isang market bubble, maaaring malampasan pa ng mga bagong modelo ang kakayahan ng mga tao.

0
0

Disclaimer: Ang nilalaman ng artikulong ito ay sumasalamin lamang sa opinyon ng author at hindi kumakatawan sa platform sa anumang kapasidad. Ang artikulong ito ay hindi nilayon na magsilbi bilang isang sanggunian para sa paggawa ng mga desisyon sa investment.

PoolX: Naka-lock para sa mga bagong token.
Hanggang 12%. Palaging naka-on, laging may airdrop.
Mag Locked na ngayon!

Baka magustuhan mo rin

Ang kita ng NetEase sa Q3 ay bumaba ng 1.8% taon-taon, ang gross margin ay tumaas sa 68.3%, at ang kakayahan ng negosyo sa gaming na kumita ay bumuti|Balita sa Ulat Finansyal

Ang kita ng NetEase sa ikatlong quarter ay bahagyang bumaba, ngunit patuloy na nag-improve ang kakayahang kumita. Ang business ng laro ay nananatiling pangunahing haligi, na may pagtaas ng gross profit ng 5.4% kumpara sa nakaraang taon; ang innovation at iba pang negosyo ay ang tanging sektor na nagpakita ng pagtaas kumpara sa nakaraang taon. Samantala, ang net cash balance ng kumpanya ay umabot sa 175.2 bilyong yuan, kasabay ng pagtaas ng quarterly dividend at pagpapalawig ng stock repurchase plan, kung kaya’t lalong tumindi ang pagbabalik sa mga shareholders.

华尔街见闻•2026/11/19 09:52

Youdao (DAO.US) netong kita noong Q3 2026 ay 1.43 bilyong yuan, siyam na magkakasunod na quarter ng positibong kita sa operasyon, patuloy ang malalim na pagsulong ng komersiyalisasyon ng AI

Noong Nobyembre 19, inihayag ng NetEase Youdao (DAO.US) ang hindi pa na-audit na financial performance para sa ikatlong quarter ng 2026.

智通财经•2026/11/19 09:31