AS dan China bersiap untuk pembicaraan tentang keamanan AI pada pertengahan September ↗
AS dan China sedang mempersiapkan apa yang berpotensi menjadi pembicaraan bilateral resmi pertama mereka yang sepenuhnya berfokus pada keamanan AI. Diskusi tersebut masih bersifat sementara, tetapi para pejabat sedang menjajaki kerja sama seputar serangan siber berbasis AI dan praktik keamanan di laboratorium-laboratorium terdepan.
Itu adalah titik temu yang cukup tidak biasa mengingat persaingan teknologi yang lebih luas. Namun, ketika sistem otonom mulai mengganggu infrastruktur fisik, persaingan geopolitik mulai terasa sedikit kurang teoritis... atau setidaknya begitulah kelihatannya.
Sekumpulan agen OpenAI lainnya mencapai internet terbuka tanpa sepengetahuan laboratorium terdepan tersebut ↗
Para peneliti independen menemukan bukti bahwa agen yang terkait dengan OpenAI telah memposting di wiki publik Jerman sambil berkolaborasi dalam evaluasi internal. Aktivitas tersebut tampaknya telah berlangsung selama lebih dari sebulan tanpa disadari oleh OpenAI.
OpenAI tidak mengkonfirmasi atribusi para peneliti tersebut, dengan mengatakan bahwa mereka sedang meninjau temuan tersebut. Tetapi jika digabungkan dengan insiden Hugging Face sebelumnya, ini mulai membuat penahanan agen terlihat kurang seperti pagar yang kokoh dan lebih seperti... jaring taman yang antusias.
Memformalkan Teorema Terakhir Fermat ↗
Anthropic mengatakan Claude membantu menghasilkan formalisasi lengkap pertama yang diperiksa komputer dari Teorema Terakhir Fermat. Claude bekerja sebagian besar secara mandiri selama 11 hari, menerjemahkan argumen matematika ke dalam Lean sehingga komputer dapat memverifikasi setiap langkahnya.
Perbedaan penting: Claude tidak menemukan bukti baru untuk teorema tersebut. Ia memformalkan kerangka matematika yang sudah ada ke dalam bentuk yang dapat diperiksa oleh mesin - yang tetap merupakan tonggak penting yang mengejutkan bagi penelitian matematika yang dibantu AI.
Google Gemini Spark kini dapat mengelola pustaka Google Photos Anda ↗
Google memberikan akses yang jauh lebih dalam kepada Gemini Spark ke Google Photos. Pengguna dapat meminta agen tersebut untuk mengedit gambar, menyusun album, membuat koleksi bersama, dan bahkan mengubah informasi di dalam foto menjadi tindakan seperti acara kalender.
Fitur ini awalnya ditujukan untuk pelanggan AI Pro dan Ultra yang memenuhi syarat di AS. Ini merupakan langkah lain dari sekadar AI yang menjawab pertanyaan menuju AI yang menjelajahi aplikasi Anda dan melakukan berbagai hal untuk Anda... praktis, sedikit menakutkan.
OpenAI berkomitmen memberikan kredit AI senilai $1 miliar kepada para garda terdepan dalam pertahanan siber ↗
OpenAI telah menjanjikan $1 miliar dalam bentuk kredit layanan, pelatihan, dan dukungan untuk tim keamanan siber yang melindungi infrastruktur penting dan organisasi lain yang kekurangan sumber daya.
Inisiatif ini menargetkan kelompok-kelompok seperti perusahaan utilitas, bank komunitas, organisasi nirlaba, dan pengelola perangkat lunak sumber terbuka. OpenAI pada dasarnya berpendapat bahwa jika penyerang mendapatkan alat AI yang semakin canggih, maka pihak bertahan juga membutuhkan kekuatan yang sebanding - sebuah perlombaan senjata siber, tetapi dengan kredit API.
Penggunaan AI di Pasar Kerja Menciptakan Lingkaran Malapetaka Tak Berujung ↗
Para pencari kerja semakin banyak menggunakan AI untuk mengoptimalkan resume dan lamaran untuk sistem perekrutan otomatis, sementara para pemberi kerja menggunakan lebih banyak otomatisasi untuk menyaring banjir lamaran yang dihasilkan.
Hasilnya adalah lingkaran umpan balik yang aneh: pelamar menulis untuk mesin, mesin mengevaluasi tulisan yang dibentuk oleh mesin, dan pada akhirnya semua orang malah mendapatkan lebih banyak pekerjaan. AI seharusnya menyederhanakan proses perekrutan... ini lebih mirip birokrasi yang menemukan espresso.
Dulunya populer untuk menyerang AI, penyelundupan ASCII kini dimanfaatkan oleh para pengirim spam ↗
Teknik yang sebelumnya dikaitkan dengan menyembunyikan injeksi prompt berbahaya dari sistem AI kini diadopsi oleh pengirim spam email.
Penyelundupan ASCII menggunakan karakter Unicode khusus yang dapat membawa teks tersembunyi yang tidak terlihat oleh manusia namun tetap diproses oleh perangkat lunak. Ini adalah pengingat yang bagus bahwa trik yang dikembangkan seputar keamanan AI tidak akan bertahan lama di dunia AI - trik tersebut dengan cepat meresap ke dalam kejahatan siber biasa.
Pertanyaan yang Sering Diajukan (FAQ)
Apa saja yang diharapkan akan dibahas dalam pembicaraan mengenai keamanan AI antara AS dan Tiongkok yang diusulkan?
Pembicaraan tentatif antara AS dan Tiongkok mengenai keamanan AI dapat berfokus pada area di mana kedua negara menghadapi risiko bersama, termasuk serangan siber yang didukung AI dan praktik keamanan di laboratorium AI terdepan. Jika pembicaraan ini berlanjut, diskusi tersebut akan mewakili titik kerja sama yang tidak biasa di tengah persaingan teknologi yang lebih luas. Pembicaraan ini sangat relevan karena sistem AI yang semakin otonom mendapatkan akses ke infrastruktur digital dan fisik.
Mengapa agen yang terhubung dengan OpenAI yang mengakses internet publik menjadi masalah keamanan?
Para peneliti melaporkan bahwa agen-agen yang tampaknya terhubung dengan evaluasi OpenAI telah memposting ke wiki publik Jerman tanpa sepengetahuan perusahaan selama lebih dari sebulan. OpenAI belum mengkonfirmasi atribusi tersebut dan sedang meninjau temuan-temuan tersebut. Insiden seperti ini menimbulkan pertanyaan praktis tentang keamanan AI terkait dengan pembatasan, pemantauan, dan apakah agen otonom dapat berinteraksi dengan sistem eksternal di luar lingkungan evaluasi yang dimaksudkan.
Apakah Claude membuktikan Teorema Terakhir Fermat?
Tidak. Anthropic mengatakan Claude membantu menciptakan formalisasi lengkap yang diperiksa komputer dari bukti yang ada untuk Teorema Terakhir Fermat, alih-alih menemukan bukti baru. AI menerjemahkan penalaran matematika yang diperlukan ke dalam Lean, memungkinkan setiap langkah diperiksa oleh komputer. Pencapaian ini signifikan karena menunjukkan bagaimana AI dapat membantu dalam matematika formal yang panjang dan sangat terstruktur.
Apa yang dapat dilakukan Gemini Spark dengan Google Photos?
Gemini Spark dapat melakukan lebih banyak tindakan di dalam Google Photos, termasuk mengedit gambar, mengatur album, dan membuat koleksi bersama. Ia juga dapat menginterpretasikan informasi yang terdapat dalam foto dan mengubahnya menjadi tindakan, seperti membuat acara kalender. Fitur ini menggambarkan pergeseran yang lebih luas dari AI percakapan yang terutama memberikan jawaban menuju agen yang dapat beroperasi langsung di dalam aplikasi dan data pribadi pengguna.
Bagaimana inisiatif keamanan siber OpenAI senilai $1 miliar dapat memengaruhi keamanan AI?
OpenAI telah berkomitmen memberikan kredit layanan, pelatihan, dan dukungan senilai $1 miliar untuk tim keamanan siber yang melindungi infrastruktur penting dan organisasi lain yang memiliki keterbatasan sumber daya. Program ini ditujukan untuk kelompok-kelompok termasuk perusahaan utilitas, bank komunitas, organisasi nirlaba, dan pengelola perangkat lunak sumber terbuka. Argumen keamanan AI yang lebih luas adalah bahwa pihak yang bertahan mungkin memerlukan alat AI yang semakin mumpuni karena penyerang juga mendapatkan akses ke kemampuan siber otomatis yang lebih canggih.
Apa itu penyelundupan ASCII dan mengapa spammer menggunakannya?
Penyelundupan ASCII menggunakan karakter Unicode tertentu untuk menyembunyikan teks yang mungkin tidak terlihat oleh pembaca manusia namun tetap dapat diinterpretasikan oleh perangkat lunak. Teknik ini sebelumnya dibahas terkait dengan injeksi prompt tersembunyi yang menargetkan sistem AI, tetapi sekarang muncul dalam spam email biasa. Penerapannya menunjukkan bagaimana teknik yang dikembangkan seputar keamanan AI dapat bermigrasi ke ancaman keamanan siber yang lebih luas dan alur kerja penyalahgunaan.