co-creation a16z: Memperlambat inovasi AI sama saja dengan menyebabkan kematian yang dapat dicegah

mentalitas “Lebih baik aman daripada menyesal” adalah kesalahan besar bagi AI.

Sumber gambar: Dihasilkan oleh Unbounded AI

Pada tanggal 9 November, James Pethokoukis, seorang rekan senior di Enterprise Institute (AEI), dan salah satu pendiri a16z Marc Andreessen duduk untuk tanya jawab tentang pentingnya optimisme teknologi. Podcast berdurasi hampir satu jam ini membahas topik-topik termasuk mengapa inovasi melambat, pentingnya merangkul AI, tanggapan terhadap kritik AI, ekonomi optimisme teknologi, dan masa depan kebijakan teknologi AS.

Pada artikel ini, kami akan fokus pada bidang-bidang yang terkait dengan kecerdasan buatan, berharap untuk menarik beberapa wawasan dari dialog antara keduanya.

Pentingnya Merangkul AI

James: Tampaknya agak mengejutkan bagi saya bahwa kita duduk di sini berdebat tentang perubahan iklim. Jelas, jika kita memiliki reaktor nuklir di sepanjang pantai, mungkin reaktor fusi kecil, kita akan memiliki perdebatan yang sangat berbeda, namun, dalam beberapa kasus, itu adalah orang yang sama yang menentang AI dan itu adalah orang yang sama yang menentang energi nuklir, dan mereka akan berkata, “Kita perlu menangguhkan AI, kita perlu mengaturnya dengan ketat.” "Ada argumen kuat dalam Manifesto Tekno-Optimis Anda bahwa Anda berpendapat bahwa memperlambat [inovasi] AI sebenarnya setara dengan menyebabkan kematian yang dapat dicegah. Bagi saya, ini adalah fakta yang jelas. Tetapi kutipan ini juga mengganggu beberapa orang, yang menganggapnya ekstrem. Jadi bagaimana kita mempertahankan ini demi AI yang dipercepat daripada menekannya?

Marc: Coba pikirkan tentang energi atom, Presiden Nixon melakukan dua hal yang berhubungan dengan energi di awal 70-an yang sangat penting dalam sejarah energi. Salah satunya adalah bahwa ia mengumumkan “rencana kemerdekaan” di mana ia berkata, “Pada tahun 1980, kita membutuhkan 1.000 pembangkit listrik tenaga nuklir baru di Amerika Serikat.” Kita harus benar-benar mandiri energi. Kita harus sepenuhnya listrik. "Jadi ini akan diiringi dengan pergeseran ke kendaraan listrik. Mobil listrik adalah teknologi berusia seabad, dan ini adalah contoh yang bagus tentang bagaimana kita bisa memilikinya jauh lebih awal. Kita harus mandiri, katanya, dan itu tidak hanya memiliki manfaat lingkungan, tetapi juga manfaat geopolitik, yang akan membawa kita keluar dari Timur Tengah, dan kemudian kita tidak perlu mengirim anak-anak kita ke sana untuk pergi berperang.

Namun, di satu sisi, dia mengatakan ini, dan di sisi lain, dia membentuk komisi pengaturan nuklir, sehingga mencegah pendirian pembangkit listrik tenaga nuklir. Komisi Pengaturan Nuklir belum menyetujui pembangkit listrik tenaga nuklir baru selama 40 tahun. Jika Anda berada di sebelah kiri, pada dasarnya Anda mengatakan, “Ya, semua emisi karbon yang telah terjadi di negara maju selama 50 tahun terakhir benar-benar dapat dihindari.” Hari ini, kita bisa memiliki jaringan nol-karbon yang akan menyediakan setidaknya listrik sebanyak atau lebih banyak seperti yang kita lakukan hari ini, tetapi kita memilih untuk tidak, dan terus melakukannya. "

Anda hanya perlu melihat produksi energi di seluruh dunia untuk melihat jawabannya: apa penyebab nomor satu kematian lingkungan dalam produksi energi global? Orang-oranglah yang membakar biomassa di rumah mereka. Jutaan orang meninggal setiap tahun karena pembakaran kayu atau beberapa bentuk biomassa di rumah mereka. Saat kita berbicara, kematian massal terjadi di seluruh dunia karena kita tidak mempromosikan energi modern di seluruh dunia. Itu pasti angka yang mengejutkan. Tentu saja, sulit untuk melihat karena kami tidak duduk di desa dan melihat orang-orang sekarat karena kayu bakar, tetapi itu nyata. Demikian pula, kemajuan dalam kedokteran tidak terjadi hari ini karena upaya kami untuk menghentikan perkembangan kecerdasan buatan. Menurut prinsip ini – terlihat dan tidak terlihat – kematian yang dapat dicegah ini sama serius dan pentingnya dengan orang yang mengambil senjata untuk dibunuh.

James: Ketika saya mengatakan itu adalah argumen yang sama, dan dalam beberapa kasus orang dan organisasi yang sama, apa yang saya temukan mengejutkan adalah bahwa beberapa orang tidak hanya khawatir bahwa AI akan memperburuk ketidaksetaraan, menyebabkan hilangnya pekerjaan, membunuh kita, tetapi mereka juga akan berkata, "Anda tahu apa? Bahkan jika Anda pikir itu bagus, itu menghabiskan terlalu banyak energi. Kami tidak dapat membuat AI ada di mana-mana dan membuatnya dapat diakses oleh semua orang seolah-olah mereka adalah smartphone. Pernyataan ini sama dengan argumen bahwa “kita kehabisan segalanya, kita kehabisan energi, jadi kita harus berhenti, kita perlu mundur”. Saya bertanya-tanya, apakah menurut Anda argumen-argumen ini akan memiliki daya tarik di masa depan, seperti yang terjadi setengah abad?

Marc: Saya bahkan berpikir ini kembali 100, 120, atau 140 tahun. Saya pikir mentalitas ini dapat ditelusuri kembali ke komunisme, tetapi juga ke Fabianisme. Pada dasarnya, inti dari hal yang digerakkan oleh elit ini, adalah bahwa kemajuan peradaban seperti yang kita pahami pada dasarnya jahat, dan Anda dapat menggantungkan contoh apa pun yang Anda inginkan di atasnya. Banyak masalah kebijakan luar negeri terkait dengan ini, seperti seberapa jahat AS terlibat dalam berbagai masalah di seluruh dunia. Meskipun fakta bahwa kapitalisme adalah mesin yang telah membantu mengangkat orang keluar dari kemiskinan telah ditunjukkan dengan jelas selama 150 tahun terakhir, masih ada banyak klaim ekonomi tentang kejahatan kapitalisme. Apa yang Anda dengar masih sebaliknya.

Omong-omong, saya memikirkan Thomas Sowell dan bukunya yang terkenal tentang masalah ini, A Conflict of Visions. Dia menyimpulkan semuanya dengan cara yang mudah saya pahami, yaitu bahwa pada dasarnya ada dua pandangan tentang bagaimana dunia harus berevolusi dan bagaimana masyarakat modern harus ditata. Salah satunya adalah “visi terbatas”, di mana manusia bisa salah, tidak sempurna, cacat, dan kami berusaha untuk menjadi pragmatis, dan kami berusaha untuk membuat perubahan dalam lingkup terbatas untuk membuat segalanya lebih baik. Setelah “revolusi”, kapitalisme akan lenyap, teknologi akan dijalankan murni oleh negara altruistik atas nama rakyat, tidak akan ada lagi perang di cakrawala, karena kita akan memiliki pemerintahan global, akan ada otoritas global untuk menjalankan segalanya. Ini adalah kontes lama antara kapitalisme dan sosialisme. Ini adalah setiap langkah dalam pertempuran antara stagnasi teknologi dan inovasi. Saya telah mengembangkannya ke tingkat ini karena saya pikir Anda benar, ya, dan ide-idenya biasanya sangat konsisten. Kekuatan prediksinya luar biasa. Jika saya tahu apa yang Anda pikirkan tentang tenaga nuklir, maka pada dasarnya saya tahu semua pandangan politik Anda yang lain.

Anda tidak benar-benar perlu pergi ke tempat pemungutan suara: tanyakan kepada orang-orang “Apakah Anda optimis tentang teknologi?” Optimis tentang masa depan? Anda hanya perlu bertanya kepada mereka: “Apa pendapat Anda tentang tenaga nuklir?” dan Anda akan bisa mendapatkan 90 persen pertanyaan.

** Malas Menuju Utopia: Tanggapan Marc terhadap Kritik AI **

James: Satu kritik adalah bahwa itu kebalikan dari apa yang Anda katakan di sini. Anda adalah orang yang tidak terkekang, orang yang jauh dari utopia teknologi ini, jika tidak ada aturan, orang-orang seperti Anda adalah kekuatan pendorong di semua lapisan masyarakat, kami akan menciptakan utopia ini, semua orang akan hidup sampai 300 tahun, kami akan menguasai tata surya, tanpa air mata, tanpa rasa sakit. Kalau saja kita memiliki teknokapitalisme yang tidak terkekang. Apa yang Anda miliki adalah visi yang tidak terkekang. Apa tanggapan Anda untuk itu?

Marc: Saya suka deskripsi ekonom Brad DeLong, dan sementara saya tidak sepenuhnya setuju dengannya, istilah ini benar-benar tepat. Deskripsinya tentang kapitalisme adalah “malas menuju utopia”. Apa artinya? Ini seperti, ada beberapa visi, dunia yang lebih baik. Menurut pendapat saya, ini bukan visi dunia yang sempurna, tetapi dunia yang lebih baik. Saya suka kata “membungkuk,” tentu saja, dari Membungkuk Menuju Betlehem, tetapi “membungkuk ke arah utopia” berarti bahwa kita tidak sempurna. Kami memiliki kekurangan besar. Ketika saya mengatakan “kami”, maksud saya masing-masing dan setiap orang dari kita. Manusia, melainkan, pekerja teknologi. Kami juga memiliki kekurangan besar, dan begitu juga teknologi yang kami buat.

Itu bagian dari perbedaan. Kita tidak hidup di dunia utopis dengan huruf besar “U”. Kita tidak hidup di dunia yang sempurna, atau di dunia di mana semua keputusan dibuat oleh satu pemerintahan global dengan cara yang bijaksana dan baik. Kita hidup di dunia yang tidak sempurna di mana kita dapat perlahan-lahan bergerak menuju utopia dengan membuat perubahan kecil di pinggiran.

Deskripsi lain yang saya pikir akan bagus adalah Tyler Cowen “Revolution on the Edge,” judul blognya. Kita mungkin memiliki tujuan jangka panjang yang besar, tetapi perubahan nyata terjadi di tepinya. Seseorang harus duduk dan menulis kode komputer. Seseorang harus duduk dengan aturan geser dan merancang roket Apollo. Tentu saja, akan ada kesalahan di sepanjang jalan, tetapi ini semua adalah hal yang dapat kita lakukan.

James: Terutama ketika menyangkut AI, sepertinya banyak fokusnya adalah pada teknologi yang salah dan potensi risiko teknologi ini, jadi bagaimana Anda ingin pembuat kebijakan memahami potensi dan risiko AI?

Marc: Semua teknologi baru datang dengan risiko. Itu bagian dari non-utopia, bukan? Saya akan mulai dengan api. Kisah penggunaan api oleh manusia begitu dalam terukir dalam ingatan peradaban kita sehingga orang-orang Yunani memiliki mitos Prometheus. Jika Anda berpikir tentang apa yang ada dalam mitos ini, Anda akan melihat bahwa itu pada dasarnya sama dengan argumen yang kita miliki di sekitar kecerdasan buatan, yaitu bahwa api itu indah, itu membuat kita tetap hangat, itu membuat kita tetap aman, jika Anda berada di hutan, hal pertama yang harus Anda lakukan adalah membuat api, ini adalah cara menyingkirkan serigala, tetapi juga cara memasak makanan, kita dapat menggunakannya sebagai metode pertahanan, tetapi pada saat yang sama, api juga dapat digunakan sebagai senjata, hari ini disajikan dalam bentuk amunisi dan bom atom.

Teknologi adalah pedang bermata dua. Ada dua cara yang sangat berbeda untuk menghadapi fakta dasar ini. Salah satunya adalah pola pikir kami selama Revolusi Industri Kedua hingga tahun 1960, yaitu bahwa kami akan mengambil keuntungan dari yang baik dan menangani yang buruk, tetapi kami akan bergerak maju. Kami tidak meringkuk dan menyerahkan api karena takut orang jahat akan memanfaatkannya dan duduk dalam kegelapan dan dingin. Teknologi adalah alat. Kami adalah penguasa alat. Kita perlu melangkah dan mencari tahu bagaimana kita dapat menggunakannya untuk berbuat baik, bagaimana kita dapat menggunakannya untuk mengurangi risiko.

Sejak tahun 60-an dan 70-an abad kedua puluh, kebijakan seputar masalah ini semakin dipengaruhi oleh gagasan “prinsip kehati-hatian”. Orang-orang mengutip prinsip ini secara harfiah atau menjalankannya dalam perbuatan mereka, bahkan jika mereka belum pernah mendengar istilah tersebut. Yang disebut “prinsip kehati-hatian” adalah bahwa teknologi baru tidak boleh dibiarkan ada kecuali mereka terbukti tidak berbahaya.

Lebih baik aman daripada menyesal.

Lebih baik aman daripada menyesal. Ya, ini adalah pelarut universal yang melindungi terhadap semua teknologi baru. Anda selalu dapat membuat argumen yang tidak berbahaya. Menurut pendapat saya, ini adalah alasan penting untuk perlambatan produktivitas, dan alasan besar untuk melonjaknya harga di banyak bidang ekonomi. Hidup semakin sulit bagi kelas menengah. Itu sebabnya kami tidak memiliki jaringan nuklir serba listrik hari ini. Sekali lagi, pola pikir ini diterapkan pada kecerdasan buatan. Seperti hal lainnya, ini adalah kesalahan besar bagi AI.

James: Saya tahu artikel ini bukan hanya tentang AI, ini tentang teknologi secara umum, tetapi apakah teknologi ini, terutama AI generatif dan model bahasa besar ini, akan sama pentingnya dengan kombo PC-Internet, akan menjadi sesuatu yang lebih besar?

Marc: Ini adalah pengenalan kecerdasan mesin. Analogi di sini agak berbahaya, karena jaringan saraf mesin tidak sama dengan jaringan saraf otak, manusia, dan sebagainya, dan sebagainya, tetapi ada juga konsep umum kecerdasan - kecerdasan manusia dan kecerdasan buatan, yang pada dasarnya mengacu pada kemampuan untuk memecahkan masalah. Ini adalah kemampuan untuk menyaring banyak informasi dan mensintesisnya, dan ketika Anda mencoba mencari solusi untuk suatu masalah, apakah itu masalah kecil seperti bagaimana mengatur hari Anda, atau masalah besar seperti bagaimana mengembangkan listrik tanpa batas, itu adalah pemecahan masalah. Secara keseluruhan, manusia telah melakukannya dengan sangat baik selama ribuan tahun ketika kita benar-benar terlibat dalam proses pemecahan masalah, tetapi pada dasarnya kita masih dibatasi oleh kemampuan intrinsik dan tingkat kecerdasan intrinsik kita sendiri.

Kesempatan sekarang pada dasarnya adalah untuk secara bertahap meningkatkan kecerdasan manusia dengan menggabungkan manusia dan mesin ke dalam hubungan simbiosis. Kesempatan ini adalah untuk memberi setiap pengembang obat, setiap seniman kreatif, setiap orang yang mencoba memikirkan apa pun, kesempatan untuk menggunakan alat baru yang memberi mereka kesempatan lebih besar untuk memecahkan masalah, atau memberi mereka kemampuan untuk memecahkan masalah yang belum kita pikirkan. Jadi, ini adalah masalah yang berpotensi besar. Pada dasarnya ia dapat bergerak maju selama bertahun-tahun dan puluhan tahun yang akan datang.

James: Maec, aku sudah menunggu. Kami telah menghabiskan seluruh hidup kami dalam “Stagnasi Besar” dan “Resesi Hebat”. November lalu, saya sangat senang dengan peluncuran OpenAI selama 15 menit, dan kemudian seseorang mengatakan kepada saya, “Dengar, itu akan mengambil semua pekerjaan, dan setelah mengambil pekerjaan, itu akan membunuh kita semua.” "Itulah inti argumennya, betapa berbahayanya teknologi ini, ini adalah demoralizer besar.

Marc: Ya, itu benar. Namun, seperti yang saya katakan, ini mencerminkan pandangan dunia yang lebih dalam. Beberapa orang anti-AI sekarang secara histeris mempromosikan ide-ide anti-AI, dan beberapa dari mereka sebenarnya adalah orang yang benar-benar percaya pada pandangan dunia yang mendalam. Seperti yang kami katakan, Anda dapat memprediksi pandangan mereka tentang topik di banyak bidang lain seperti sosial-politik. Juga, ada orang-orang yang hanya terjebak di dalamnya karena itu adalah tren saat ini dan mereka hanya mengatakan apa yang mereka pikir orang pintar katakan. Sangat penting untuk menyebarkan hal-hal ini dan membuatnya jelas. Penting untuk memiliki argumen praktis dan mendengarkan mereka yang membuat klaim paling menghasut. Untuk benar-benar menjelaskan apa teknologi ini, untuk memberi orang-orang yang belum memikirkannya informasi yang mereka butuhkan untuk dapat bernalar sendiri. Jadi, saya lebih suka tidak mengatakan itu, tetapi apa yang akan saya katakan adalah bahwa ada orang-orang yang terdemoralisasi, dan ada orang-orang radikal lainnya, karena mereka akan berpikir, “Oh, saya mengerti apa yang sedang terjadi.” Mereka bukan orang seperti itu. Mereka benar-benar mencoba untuk mendapatkan manfaat khusus bagi perusahaan mereka, atau mereka benar-benar mencoba untuk mendapatkannya dari perspektif politik yang berbeda, atau orang tersebut benar-benar terlihat seperti mereka disfungsional secara emosional. Orang-orang ini terlihat histeris. Mungkin kita seharusnya tidak mendengarkan orang-orang ini."

James: Apakah Anda menemukan bahwa, setidaknya bagi Anda di industri yang telah berbicara tentang risiko eksistensial ini, itu lebih seperti mereka mencoba menciptakan situasi penangkapan peraturan atau lingkungan peraturan yang dapat dinavigasi dan situasi atau lingkungan itu untuk memperkuat dirinya sendiri? Apakah begitu, atau apakah orang-orang ini benar-benar khawatir bahwa teknologi ini akan lepas kendali? Apakah keduanya? Bagaimana tanggapan anda mengenai artikel ini?

Marc: Ada kerangka kerja yang baik dalam ekonomi yang disebut “Baptis dan pembuat minuman keras.” Idenya adalah bahwa ketika Anda terkena risiko ini, orang akan mencoba untuk melarangnya, membuatnya ilegal, atau mengendalikannya di ranah peraturan melalui tindakan politik yang didorong oleh rasa takut - pada dasarnya Anda akan menemukan bahwa seiring waktu, mereka biasanya membentuk koalisi yang mereka sebut “penyelundup dan Baptis.” Baptis dan moonshiners adalah dua kelompok besar yang mendukung Larangan seratus tahun yang lalu. Baptis adalah orang percaya sejati yang sangat percaya bahwa alkohol itu jahat dan menghancurkan masyarakat. Moonshiners, di sisi lain, adalah mereka yang menghasilkan banyak uang jika alkohol dinyatakan ilegal, karena dengan begitu mereka dapat menyelundupkan alkohol. Faktanya, Larangan berhasil. Larangan menciptakan apa yang kita anggap sebagai kejahatan terorganisir modern di Amerika Serikat karena memberi moonshiners keuntungan finansial yang sangat besar. Pada dasarnya, jika Anda membaca Wikipedia tentang Baptis dan moonshiners, Anda akan melihat bahwa pola ini muncul berulang-ulang.

Sekarang kami memiliki 31 cerita serupa.

Itulah keadaan kecerdasan buatan saat ini, ada sekelompok orang Baptis, yang cenderung menjadi penulis dan orang-orang berorientasi fiksi ilmiah yang melukiskan gambaran yang sangat jelas tentang akhir dan kematian dan semua hal ini. Lalu ada moonshiners. Tentu saja, para moonshiner di sini bukanlah orang-orang yang ingin membuat kecerdasan buatan bajakan, tetapi orang-orang yang secara langsung mengambil hak untuk mengatur. Biarkan pemerintah-pemerintah ini membuat seperangkat aturan yang mirip dengan apa yang dilakukan Undang-Undang Dodd-Frank di sektor perbankan, sehingga hanya dua atau tiga atau empat perusahaan secara total yang dapat memanjat tembok peraturan, dan kemudian semua perusahaan lain akan dibekukan, dan akhirnya perusahaan-perusahaan ini akan membentuk kartel permanen.

Pola ini berulang lagi dan lagi dalam perekonomian kita. Banyak, banyak industri dalam perekonomian kita telah mengalami hal ini. Setiap kali ada dua atau tiga atau tiga atau empat perusahaan yang benar-benar terkunci di pasar dan tidak ada inovasi dari start-up, maka 100% dari waktu itu karena rintangan peraturan. Jadi situasinya sekarang adalah bahwa kaum Baptis sedang digunakan oleh para moonshiners, sehingga mereka yang seharusnya ditakuti pada dasarnya digunakan sebagai front oleh segelintir perusahaan besar dan CEO yang mencoba merebut kekuasaan regulasi. Saya pikir itu sudah jelas. Itu terjadi hari ini. Pada konferensi, yang disebut KTT Keamanan AI Inggris, itu sedang dipentaskan dalam tampilan penuh. Tidak ada yang benar-benar bersembunyi, mereka hanya melakukannya. Saya berharap melalui deskripsi ini, lebih banyak orang akan menyadari apa yang terjadi.

Sumber daya: