Karen optimis terhadap prospek penerapan teknologi AI di lebih banyak industri, CEO Nvidia Huang Renxun memberikan pernyataan optimis. Ia mengatakan: "Penjualan chip Nvidia tahun depan akan dua kali lipat dari tahun ini." Ia juga menekankan, produk yang tidak aman harus dihentikan, "Keamanan AI sangat penting".
Pada hari Kamis, 17 waktu setempat AS, sebelum pembukaan pasar saham AS, setelah Huang Renxun memberikan pidato tersebut, harga saham Nvidia terus naik, di sesi awal sempat mencapai level tertinggi hari itu dengan kenaikan 2,8% dalam sehari, dan berpotensi ditutup naik selama tiga hari berturut-turut, semakin menjauh dari level terendah penutupan sejak 26 Agustus yang terjadi setelah lima hari berturut-turut penurunan sebelumnya, dan membalikkan sebagian kerugian yang sempat melebihi 5% minggu lalu.

Pada 17 September waktu setempat, Huang Renxun menghadiri KTT AI di Skotlandia, Inggris yang dipimpin oleh Raja Charles III dari Inggris. Ia menyatakan bahwa AI seharusnya tidak diatur seperti media sosial, karena AI pada dasarnya adalah sebuah teknologi, bukan sebuah produk. Regulator seharusnya membuat aturan untuk produk AI dan skenario aplikasinya yang spesifik, bukan langsung mengatur teknologi dasar AI itu sendiri.
Menurut laporan, Huang Renxun dalam wawancara di sela-sela KTT mengatakan bahwa AI telah membawa manfaat signifikan bagi berbagai industri. Seiring penyebaran AI ke berbagai industri, ia memperkirakan penjualan chip Nvidia dalam setahun ke depan akan mencapai dua kali lipat dari tahun ini.
Ekspektasi ini melanjutkan pandangan optimis Nvidia sebelumnya terhadap permintaan AI.
Pada bulan Agustus, proyeksi pendapatan Nvidia memperkirakan bahwa pendapatan perusahaan untuk tahun fiskal mendatang akan tumbuh sekitar 70%. Manajemen saat itu menyatakan jika pasokan bisa memenuhi permintaan yang sangat tinggi, pendapatan bahkan bisa berlipat ganda.
Menurut laporan, Huang Renxun menilai, AI dan media sosial "sangat berbeda". Media sosial adalah produk, sementara AI merupakan teknologi dasar yang mendukung teknologi dan produk lain, sehingga regulasi harus diarahkan pada produk, bukan teknologi itu sendiri.
Ia mengatakan, permasalahan keamanan di bidang AI saat ini terutama berkaitan dengan beberapa produk yang belum siap untuk dirilis. Otoritas regulasi harus terus mengawasi masalah aktual yang muncul dalam proses penerapan AI, dan, bila diperlukan, menambah peraturan baru untuk menyempurnakan kerangka pengawasan yang ada.
Huang Renxun juga menambahkan, AI sudah digunakan di bidang kesehatan, transportasi, hiburan, dan sebagainya; sektor tersebut pada dasarnya sudah memiliki regulasi masing-masing, sehingga tidak semua aplikasi AI membutuhkan sistem regulasi baru secara keseluruhan.
Terkait masalah keamanan AI, Huang Renxun menegaskan pengembang harus melakukan pengujian yang sangat ketat pada sistem dan memastikan produk diuji secara memadai di laboratorium terkontrol.
"Pengembang AI harus melakukan uji sistem secara ketat." kata Huang Renxun dalam pidato singkatnya di KTT, "Jika suatu produk belum cukup aman, maka kita harus menunda peluncurannya."
Menurutnya, menjamin keamanan produk AI pada dasarnya merupakan masalah teknik tradisional: sebelum produk dirilis ke publik, produk harus melalui pengujian dan penyempurnaan yang memadai dan ketat.
KTT ini dipimpin oleh Raja Charles III dari Inggris, dihadiri oleh CFO OpenAI Sarah Friar, Co-Founder Google DeepMind Demis Hassabis, dan Kepala Urusan Publik Anthropic Tino Cuellar, serta lainnya.
Dalam pidato pembukaannya, Raja Charles III mengatakan bahwa orang-orang yang peduli dengan kesejahteraan manusia sangat ingin mendapatkan jaminan bahwa umat manusia tidak akan kehilangan kendali atas nasibnya sendiri. Ia menekankan, bagaimana memanfaatkan manfaat AI dengan prioritas keamanan, serta bagaimana mencapai konsensus melalui kerja sama internasional, menjadi pertanyaan kunci yang harus dijawab.
KTT ini diselenggarakan di tengah perdebatan yang semakin panas di industri AI sendiri mengenai kecepatan pengembangan dan risiko potensial. CEO Anthropic Dario Amodei baru-baru ini menyerukan perlambatan pengembangan AI terdepan, CEO OpenAI Sam Altman juga menyuarakan kekhawatiran terkait risiko tersebut; Hassabis menyatakan diskusi yang ada mengarah pada arah yang benar.
Sementara Huang Renxun secara konsisten menentang perlambatan pengembangan AI, dan berpendapat bahwa tanggung jawab korporasi, pengujian yang ketat, serta regulasi berbasis produk spesifik adalah cara terbaik untuk mengatasi risiko keamanan.