Ang punong AI ng Musk ay nakikipaglaban sa Lyme disease! Dati siyang estudyante ni Shing-Tung Yau, inihayag ni Yang Ge ang kanyang pagbibitiw

  Ulat ng Bagong Henyo  

Matinding kawalan ito para kay Musk!

Ang co-founder ng xAI at pangunahing arkitekto ng Grok na si Greg Yang (Yang Ge) ay biglang naghayag na matagal na siyang pinahihirapan ng “Lyme disease”.

Sa huli, nagpasya siyang magbitiw bilang founder ng xAI at lumipat sa likod ng eksena bilang hindi opisyal na “consultant”.

Palaging ipinapahayag ni Greg Yang sa kanyang personal na homepage na siya ay isang “mathematician ng xAI”.

Hindi lang iyon, kinikilala siya bilang susi sa likod ng mathematical architecture ng pangarap ni Musk na “AI na nakakaunawa ng uniberso”.

Para sa xAI, nawalan na naman sila ng isang mahalagang miyembro. Gayunpaman, bilang hindi opisyal na consultant, maaari pa ring humingi ng tulong ang koponan kay Greg sa mahahalagang usapin.

Nagpaabot ng pagbati sina Musk at mga kasamahan kay Greg Yang para sa kanyang agarang paggaling.

Ang Lyme disease ay kilala bilang mahirap ma-diagnose, buti na lang at magaling ang doktor na natagpuan ni Greg Yang.

Nagsimula ang lahat noong 2025, nang magkasakit si Greg at pagkatapos ay natuklasan niya—

Kahit ilang linggo nang “gumaling”, ramdam pa rin niyang malaki ang ibinaba ng kanyang enerhiya, bumaba ang pagiging malikhain, at humina ang “agentic” o sigla sa paggawa ng mga bagay-bagay.

Mula noon, pabagu-bago na ang kanyang kalagayan, at mas lumalala ang bawat pagbagsak.

Kahit bahagyang magkamali sa pagkain, sobrang mapapagod siya at ilang araw bago makabawi. Maging ang pag-eehersisyo ay nagdudulot ng labis na panghihina ng buong katawan ng ilang araw.

Ayon sa kanya, may isang linggo na kahit 12 oras ang tulog bawat araw, hindi pa rin siya nakabawi.

Pagkapatingin, kumbinsido ang doktor na hindi guni-guni ang mga sintomas kundi problema sa immune system.

Matapos ang ilang round ng mala-imbestigasyong pagsusuri, sa wakas ay na-diagnose siyang may Lyme disease.

Tungkol sa chronic Lyme disease, kulang pa ang kasalukuyang medical literature at kaalaman ng publiko. Para sa mga apektado, ito ay isang labang mag-isa.

Ito ay isang impeksyon sa bakterya dahil sa kagat ng garapata, na nagdudulot ng sugat na namumula na parang target. Mabuti na lang at maagap na natuklasan, dahil kung matutuklasan pa ito sa edad na 50 o 60, maaaring mawalan ng kakayahang gumalaw o maparalisa.

Labis ang pagkabigla ni Greg nang malaman ito, at hindi na niya maalala kung nakakagat siya ng garapata.

Ayon sa kanya, posibleng matagal na ang impeksyon, ngunit kamakailan lamang lumabas ang mga sintomas dahil sa pagbaba ng immune system dulot ng pagtatrabaho sa xAI.

Halos lahat ng tao, sa oras lang na bumigay ang katawan, saka lang napagtatanto ang kahalagahan ng kalusugan.

Sa karanasang ito, naalala ni Greg ang sinabi sa kanya: “Hindi mo dapat pinipilit masyado ang iyong sarili,” at nagpapasalamat siyang ginawa niya iyon kaya maaga niyang natuklasan ang problema.

Ang mahalaga ngayon ay unti-unting gumaling ang katawan, at kapag lubos nang malakas, babalik siya nang mas matindi.

Si Greg Yang ay isang tipikal na henyo sa matematika, at isa sa mga “hardcore geek” na pinaka-pinapaboran ni Musk.

Ipinanganak siya sa Hunan, at lumipat sa Amerika noong siya ay nasa high school kasama ang kanyang mga magulang.

Sa akademikong background, nagkamit siya ng bachelor's degree sa matematika mula sa Harvard University, sa ilalim ng superbisor na si Shing-Tung Yau.

Natanggap niya ang Morgan Prize, isa sa pinakamataas na parangal sa undergraduate mathematics, pati na rin ang Putnam Fellow (Putnam Mathematical Competition) award.

Nakakatuwang malaman na inamin ni Greg Yang sa XSpaces chat na nagkaroon siya ng break sa kanyang undergraduate studies sa Harvard.

Noong panahong iyon, naging DJ at drum and bass music producer siya. Kalaunan, napagtanto niyang ang kanyang tunay na ambisyon ay hindi sa DJing kundi sa matematika.

Pagkatapos noon, nagtapos din siya ng master's degree sa computer science mula sa Harvard University.

Pagkatapos magtapos, hindi na siya nagpatuloy ng PhD at diretsong pumasok bilang Senior Researcher sa Microsoft Research Institute (MSR), isang pandaigdigang nangungunang AI institution.

Dito, natapos ni Greg ang serye ng Tensor Programs na mga papel na naglatag ng kanyang teoretikal na katayuan sa AI.

Sa madaling salita, si Greg Yang ay kilala sa AI bilang “ama ng teorya ng Tensor Programs”. Hangad ng kanyang pananaliksik na gawing mahigpit na “agham” ang deep learning mula sa kasalukuyang “alkimiya”.

Noon, napakamahal mag-training ng malalaking modelo gaya ng GPT-3, at napakamahal mag-tune ng mga parameters, kaya hindi basta-basta sumusubok ng adjustments sa malalaking modelo.

Iminungkahi niya ang mμP (Maximal Update Parameterization) na teknolohiya.

Pinapayagan nito ang mga mananaliksik na mag-tune ng parameters sa maliliit na modelo (halimbawa, ilang milyong parameters) at i-transfer ito ng zero-shot sa malalaking modelo na may bilyon-bilyong parameters na may pinakamahusay na resulta.

Pagkatapos itatag ang xAI, ipinagpatuloy ni Greg Yang ang kanyang gawain sa Tensor Programs. Noong Oktubre 2023, nailathala ang ika-apat na serye ng papel.

Tinalakay ng papel na ito ang maraming bagay—

Tinatalakay nito kung paano maikakategorya ang iba't ibang parameterization ng malalalim na residual networks sa limitasyon ng “una'y infinite width, saka infinite depth”.

Ipinanukala at napatunayan niya ang Depth-μP parameterization, na nagpapahintulot ng hyperparameter transfer sa direksyon ng lalim.

Sa kabuuan, ang isa sa mga praktikal na kahalagahan ng Tensor Programs ay ang “maaaring ilipat ang hyperparameters ng malalaking modelo mula sa maliit na modelo”, kaya direktang nauugnay ang teorya at gastos sa pag-tune ng engineering.

Dahil dito, lubos na nakatipid ang xAI sa astronomical compute cost.

Kung wala ang teknolohiyang ito, maraming beses na mas mahal ang cost ng training ng modelong kasing laki ng Grok.

Sa kanyang personal homepage, hindi itinatago ni Greg Yang ang kanyang ambisyon—ang magtatag ng unified theory ng large-scale deep learning na kayang:

1) Sabihin sa atin kung paano pinakamagandang palakihin ang neural networks;

2) Magbigay ng matibay na teoretikal na pag-unawa sa mga modelong ito upang magabayan ang seguridad at research on alignment.

Ang kanyang pagbibitiw ay isang malaki at masakit na kawalan para kay Musk—isang utak na nakakaintindi ng kanyang “cosmic imagination” at isinasalin ito sa executable code.

Ayon sa foreign media, sa nakaraang taon, dalawa pa sa mga co-founder ng xAI ang umalis na rin sa kumpanya.

Sa gitna ng malalaking pagbabago sa taas, nangako si Musk na ilulunsad ang Grok 5 sa unang kalahati ng taon, na talaga namang inaabangan.