Sebuah Kisah Dua Anthropics

(SeaPRwire) –   Saya menghabiskan hari Rabu di sebuah ruang acara di East London yang penuh sesak dengan pembangun (developer). Acara itu ialah Code w/ Claude: acara pertama Anthropic yang berfokus kepada pembangun di Eropah. Ia terasa seperti pusingan kemenangan bagi sebuah syarikat yang dilaporkan kini mengumpul dana pada penilaian $900 bilion—jumlah yang, jika tepat, akan mengatasi pesaing utamanya, OpenAI. Di sebalik peningkatan pesat Anthropic adalah para pembangun yang membanjiri dewan London minggu ini, menikmati makan tengah hari dan makan malam percuma, serta menerima komputer mini percuma. Pengguna berkuasa ini membelanjakan lebih banyak wang untuk Claude berbanding orang biasa. Dengan kata lain, mereka adalah nadi Anthropic, dan syarikat itu mempunyai insentif untuk memastikan mereka terus kembali untuk mendapatkan lebih banyak lagi.

Dalam sehari ucapan utama di dua pentas, eksekutif Anthropic menghamburkan pelbagai butiran teknikal tentang cara pengekod harus menggunakan AI dengan terbaik untuk meningkatkan produktiviti mereka. Suasana di dalam bilik itu adalah satu semangat yang hampir tidak terkawal. Boris Cherny, pencipta Claude Code, mengisytiharkan bahawa AI telah membantunya menyambung semula dengan perasaan ajaib yang mula-mula menariknya ke dalam pengaturcaraan menggunakan kalkulator sekolah. Para pembangun yang saya temui bercakap tentang kebangkitan semula dalam pengaturcaraan komputer, dengan lebih banyak peluang tersedia berbanding orang untuk memanfaatkannya.

Hari itu menggambarkan Anthropic sebagai sebuah syarikat produk. Kurang perbincangan tentang risiko yang Anthropic telah suarakan di tempat lain. Di atas pentas, kakitangan Anthropic menyentuh kadar kemajuan AI yang berterusan—menampilkan banyak graf yang meningkat—tetapi kebanyakannya dalam konteks menggalakkan pembangun untuk memanfaatkan banyak keupayaan Claude Code, daripada mengurangkan risikonya. Apabila seorang penyelidik Anthropic bertanya kepada orang ramai berapa ramai di antara mereka yang telah menghantar kod yang ditulis oleh Claude tanpa membacanya, sejumlah besar mengangkat tangan mereka. “Itu permainan yang berbahaya,” katanya, disambut gelak tawa gugup. Kemudian dia beralih dengan cepat untuk bercakap tentang bagaimana pembangun boleh memanfaatkan sepenuhnya Claude.

Hari Khamis adalah pengalaman yang sangat berbeza. Saya menaiki kereta api ke Universiti Oxford, di mana pengasas bersama Anthropic, Jack Clark, dijadualkan untuk menyampaikan ceramah. Clark adalah seorang tokoh yang menarik. Sebahagian besar kerjanya selama bertahun-tahun melibatkan pengukuran, dan kemudian memberi amaran tentang, kadar kemajuan AI dan pelbagai risiko yang menyertainya. Ceramah ini tidak berbeza. Beliau berkata AI menimbulkan peluang “bukan sifar” untuk membunuh semua orang di planet ini, dan memberi amaran bahawa walaupun krisis menyeluruh ini dapat dielakkan, beberapa tahun akan datang akan mengandungi lebih banyak gangguan daripada mana-mana dalam ingatan hidup.

Clark meramalkan bahawa menjelang 2028, atau mungkin lebih awal, AI akan mencapai “peningkatan diri rekursif,” atau mencapai keupayaan untuk memperbaiki dirinya sendiri—membawa kepada masa depan yang tidak dapat diramalkan. “Kita belum pernah menemui teknologi yang mempunyai sifat ini, di mana ia boleh membuat versi yang lebih baik daripada dirinya sendiri tanpa manusia,” katanya. Kebanyakan dunia “menafikan” tentang keupayaan model AI semasa, kata Clark, apatah lagi yang akan datang dalam enam bulan.

Mudah—dan menenangkan—untuk menolak ini sebagai seorang eksekutif bilionair yang memuji teknologinya sendiri atas sebab kepentingan diri. Tetapi cara lain untuk mentafsir ceramah ini, dan sememangnya sebahagian besar kerja Anthropic sebagai sebuah syarikat, adalah sebagai amaran daripada orang yang paling rapat dengan teknologi baharu yang pelik ini, dan yang dapat melihat ke mana arahnya. Ketibaan Claude Mythos pada bulan April—model terbaru Anthropic, yang mempunyai keupayaan serangan siber peringkat negara—menunjukkan bahawa banyak ramalan Anthropic sebelum ini adalah betul, dan masa depan yang mereka ramalkan dalam beberapa aspek sudah tiba. Model itu sangat berkuasa sehingga Anthropic memutuskan untuk tidak mengeluarkannya secara terbuka, dan sebaliknya telah memberikan akses kepada sekumpulan kecil syarikat dan kerajaan untuk menampal kelemahan dalam perisian yang paling biasa digunakan di dunia.

Clark berkata Anthropic sendiri telah memandang rendah skala dan kelajuan kemajuan AI. Apabila Mythos selesai dilatih, katanya, “Kami seperti, ‘Oh, ia sudah tiba! Ia tiba lebih cepat daripada yang kami sangka! Dan kami telah melakukan persiapan yang tidak mencukupi.’”

Bukanlah sesuatu yang jahat, malah tidak mengejutkan, bahawa Anthropic bercakap secara berbeza kepada penggubal dasar berbanding pembangun. Syarikat sentiasa menyesuaikan mesej kepada kumpulan yang berbeza, dan Anthropic telah bersikap terbuka tentang risiko AI dengan cara yang syarikat lain memilih untuk berdiam diri. Namun, mengalami dua naratif yang berbeza ini secara berdekatan memberikan saya rasa terkejut yang mendalam. Dalam satu aspek, Anthropic mempunyai dakwaan yang boleh dipercayai untuk memegang kunci kepada mungkin teknologi paling berkuasa sepanjang masa, sambil mengambil tanggungjawab untuk memberi amaran kepada kerajaan dan masyarakat tentang fakta yang tidak menyenangkan itu. Dalam aspek lain yang sangat nyata, ia masih sebuah syarikat perisian biasa, bergantung pada kehendak pembangun yang tidak tetap dalam hoodie dan seluar jeans.

Jika Clark betul, tiada apa-apa tentang saat ini akan kekal lama. Para pembangun yang Anthropic sangat bergantung pada masa ini akan mendapati diri mereka digantikan oleh mesin lebih cepat daripada mereka dapat menyebut “peningkatan diri rekursif.” Mungkin itulah sebabnya ramalannya tidak disampaikan dalam ucapan utama hari Rabu.