Dua mantan staf OpenAI dan koalisi organisasi nirlaba keselamatan berpendapat Anda harus berhenti sejenak sebelum membeli saham SpaceX. Mereka mengirim surat. Rilis hari Selasa. Targetnya: investor yang menantikan IPO mendatang. Ini mungkin merupakan pengajuan Wall Street terbesar dalam sejarah. Tapi inilah masalahnya. xAI terpasang ke SpaceX. Dan xAI memiliki kebiasaan buruk dalam mengambil jalan pintas dalam hal keselamatan.
“Risiko yang tidak diberi harga”
Itulah ungkapan yang mereka gunakan. Jenis yang membuat fund manager tetap terjaga.
SpaceX baru saja mengakuisisi xAI. Valuasi swasta melonjak melampaui $1 triliun. Elon Musk ingin mengumpulkan dana tunai hingga $75 juta. Mungkin meluncurkan pusat data ke luar angkasa untuk otak AI-nya. Kedengarannya bagus. Kecuali orang yang menulis peringatan ini mengatakan entitas gabungan tersebut terlihat goyah. Khususnya mengenai tanggung jawab.
Guidelight AI Standards menulis sebagian besar darinya. Didirikan oleh Steven Adler dan Page Hedley, keduanya mantan OpenAI. Bergabung dengan Advokat Hukum untuk Sains Aman, Encode AI, dan The Midas Group.
Hedley tidak melakukan pukulan. Dia menyebut xAI sebagai yang terburuk di antara laboratorium besar. OpenAI. Google DeepMind. Antropis. Mereka semua melakukannya lebih baik, katanya. Jauh lebih baik. Jadi mengapa investor berani bertaruh besar pada SpaceX jika mereka mewarisi aset sampingan beracun ini?
SpaceX tetap diam. xAI juga. Khas.
Surat itu menuntut kejelasan. Apakah xAI masih membuat model AI terdepan? Baru-baru ini mereka menjual kapasitas GPU ke Anthropic. Membingungkan. Apakah itu pesaing? Atau hanya data farm untuk roket SpaceX? Jika tetap menjadi pengembang, diperlukan rencana keselamatan publik. Tidak ada alasan.
Insiden-insidennya berantakan. Ingat Grok? Bot obrolan. Ia secara acak melontarkan pembicaraan genosida kulit putih. Kemudian, ribuan gambar seksual. Tentang wanita. Dan anak-anak. Mereka menyebar ke seluruh X. Cepat. Marah.
Tiga puluh tujuh jaksa agung AS mengirimkan surat. Musk harus mendengarkan. Atau setidaknya berpura-pura.
Jauh di luar proporsi pangsa pasarnya.
Itulah kesepakatannya. xAI mendapat sorotan peraturan yang biasanya diperuntukkan bagi perusahaan raksasa. Pemerintahan Trump juga memperhatikan hal ini. Perintah eksekutif baru mungkin memberi lembaga intel kendali lebih besar atas kode AI.
Adler menunjukkan nomor kepegawaian. Hanya dua atau tiga insinyur keselamatan di xAI pada bulan Januari? Washington Post melaporkannya. Itu bukan sebuah tim. Itu sebuah saran.
Investor perlu bertanya: apa jadinya jika xAI terus melaju ke garis depan tanpa pedal rem? Apakah ini akan merugikan seluruh perusahaan?
Mereka memang menambahkan beberapa penguji dari Gedung Putih. Lebih baik. Tapi tidak cukup. Bukan untuk prospektus.
Sudut Pengawas
Guidelight tidak hanya mengeluh. Mereka menginginkan tolok ukur. Aturan yang jelas. Penilaian yang benar-benar dapat dibaca oleh pengacara dan jurnalis. Hedley meninggalkan OpenAI pada tahun 2019 tetapi mengatakan orang dalam selalu khawatir. Adler berhenti pada tahun 2024. Dia menyadari sesuatu.
Kecepatan menang dalam teknologi. Anda mendorong model itu keluar. Anda memperbaikinya nanti. Seringkali itu berhasil.
Beberapa hal tidak rusak dalam sekejap.
