JAWA BARAT — Isu kedaulatan teknologi menjadi benang merah di setiap sesi diskusi, dari panggung utama hingga acara ramah tamah di sela-sela konferensi. Tema tahun ini, "Emerging from Agency", dinilai sangat relevan dengan kondisi industri saat ini. Ellen de Brever, angel investor sekaligus head of partnerships di Novo Nordisk Foundation Cellerator, menilai pergeseran fokus ini sebagai hal yang sehat.
"Debatnya bukan lagi tentang mesin yang lebih pintar, tetapi tentang penilaian manusia dan siapa yang tetap berada di kursi pengemudi," ujarnya. "Era agen AI sebenarnya bukan soal mesin yang mendapatkan otonomi, melainkan tentang manusia yang memutuskan apa yang ingin mereka serahkan."
Insiden Anthropic yang Mengubah Perspektif
Insiden penghapusan akses model Mythos dan Fable bagi pengguna di luar Eropa menjadi titik balik. Seorang eksekutif startup mengaku kejadian tersebut sempat mengganggu kerja tim pengembang perangkat lunaknya. Namun, ada juga yang menganggapnya angin lalu.
Sikap berbeda ini mencerminkan dilema yang dihadapi ekosistem teknologi Eropa. Di satu sisi, ketergantungan pada dua kekuatan geopolitik lain untuk urusan AI berpotensi menjadi sakit kepala serius di masa depan. Di sisi lain, untuk saat ini, operasional bisnis masih berjalan normal.
Kritik Pedas Soal Privasi dan Pengumpulan Data
Salah satu sesi yang paling menarik perhatian adalah panel diskusi bersama Meredith Whittaker, Presiden Signal. Ia secara blak-blakan mengkritik integrasi asisten AI ke dalam sistem operasi, seperti yang dilakukan ChatGPT pada iMessage. Menurutnya, praktik semacam itu menciptakan "aparatus pengumpulan data" yang masif.
Whittaker menilai laboratorium AI menggunakan pemasaran yang cerdik untuk membuat publik melupakan "konsekuensi kolateral" dari pengumpulan data dalam jumlah besar. "Masih ada kebutuhan pasar yang besar akan privasi," tegasnya. "Dan khususnya dengan kekhawatiran soal kedaulatan, kami akan memiliki pelanggan di sini."
Konsentrasi Kekuasaan dan Masa Depan Ekonomi
Kekhawatiran lain datang dari Emad Mostaque, salah satu pendiri Stability AI dan Intelligent Internet. Dalam diskusi tentang dampak tenaga kerja agen terhadap ekonomi, ia menyoroti konsentrasi kekuasaan di tangan segelintir laboratorium AI.
"Kedaulatan adalah kemampuan untuk menolak kekuasaan yang dipaksakan atas diri Anda," kata Mostaque. Ia bahkan menyampaikan pandangan ekstrem bahwa "pada akhirnya, setiap negara akan dijalankan oleh AI dan orang yang mengendalikan AI akan mengendalikan negara."
Mia Negru, direktur advokasi dan keterlibatan untuk nonprofit Life With Artificials, menanggapi diskusi tersebut dengan refleksi mendalam. "Jika agen cerdas melakukan pekerjaan kognitif dan robot semakin banyak melakukan pekerjaan fisik, kita mungkin mendekati sesuatu yang jauh lebih besar daripada revolusi teknologi lainnya," tulisnya. "Kita mungkin harus memikirkan ulang kepemilikan, pekerjaan, demokrasi, partisipasi ekonomi, dan bahkan siapa yang boleh berpartisipasi dalam masyarakat."
Hangatnya Networking di Balik Diskusi Serius
Di luar ruang panel, suasana TechBBQ tetap semarak. Berbagai acara sosial digelar, seperti barbekyu di atap gedung yang disponsori Lovable, Nvidia, OpenAI, AWS Startups, dan HSBC. Ada juga pertemuan yang diadakan Ada Ventures di bar koktail Bird, serta jamuan makan malam untuk para pembicara di sebuah pulau di tengah kota Kopenhagen.
Di sela-sela acara tersebut, para pendiri startup berdiskusi tentang pertumbuhan pusat teknologi di Denmark dan peningkatan inovasi di bidang kesehatan otak wanita. Meski topik berat mendominasi, momen kebersamaan justru menjadi pelengkap yang tak terlupakan.
"Di ruangan yang penuh dengan percakapan tentang mesin, momen yang paling berkesan tetap datang dari hal yang paling sederhana," tutup de Brever. "Koneksi antarmanusia, bertatap muka, membangun hubungan, berbagi ide, dan saling mengingatkan tentang apa yang tidak bisa digantikan oleh teknologi."
