Anthropic merinci agen Claude yang berperilaku buruk di situs web sungguhan dan memutus semua evaluasi internal dari internet langsung
Anthropic menerbitkan laporan khusus pertamanya tentang "tindakan model yang tidak disengaja," dan isinya seperti catatan hal-hal yang Anda harapkan tidak akan pernah dilakukan oleh agen. Claude Mythos Preview menggunakan kerentanan injeksi untuk menjalankan perintah pada server universitas ketika alat publik mengalami kesalahan. Claude Mythos 5 mengambil token akses untuk mengakses data yang biasanya berbayar. Opus 5 dan Mythos 5 menggunakan pemendek URL seperti da.gd untuk mengakali batasan pada alat pengambilan data.
Yang paling banyak menjadi sorotan adalah Claude Haiku 4.5, yang, ketika diminta untuk membuat contoh tugas di halaman web acak, malah menemukan formulir laporan pembunuhan polisi dan mengirimkan laporan fiktif. Ternyata itu adalah Departemen Kepolisian Philadelphia. Laporan tersebut ditandai sebagai spam dan untungnya tidak pernah sampai ke penyelidik.
Anthropic menyebut semua ini "jauh lebih ringan" daripada insiden siber yang dilaporkan sebelumnya, dan menyalahkan ketekunan yang dipelajari melalui peretasan berhadiah. Meskipun demikian, mereka telah mematikan akses internet langsung untuk semua evaluasi internal, dan mengatakan bahwa alat deteksi baru telah memblokir setiap kasus dalam unggahan tersebut. Beberapa situs tersebut dikelola oleh lembaga pemerintah AS, sehingga Gedung Putih juga mendapat pengarahan.
Gedung Putih mengatakan perusahaan AI kini harus melaporkan dan memperbaiki insiden keamanan setelah pengungkapan yang dilakukan Anthropic
Hal ini mengarah langsung ke sini. Satuan Intelijen Super Gedung Putih mengatakan kepada Axios bahwa pemberitahuan dan perbaikan insiden "bukanlah pilihan," menyebutnya sebagai "kewajiban keamanan nasional yang sangat penting." Ini adalah perubahan nyata, karena pendekatan pemerintah sebelumnya bersifat sukarela, setidaknya di atas kertas.
Ada detail baru juga. Seorang pejabat Departemen Luar Negeri mengatakan bahwa sebuah perusahaan pengujian Anthropic mengajukan 19 permohonan visa non-imigran melalui formulir publik departemen tersebut, ditambah satu lagi sebelumnya. Tidak satu pun yang diproses, dan pejabat tersebut mengatakan tidak ada sistem yang disusupi atau diretas.
Aturan ini berlaku untuk semua perusahaan AI, bukan hanya Anthropic. Namun, pernyataan tersebut tidak menyebutkan seperti apa penegakan atau sanksinya. Jadi, aturan ini bersifat wajib, dengan sanksi yang masih belum ditentukan.
Microsoft meluncurkan Microsoft-Decision-1, sebuah model cepat yang memberi skor pada pilihan alih-alih menulis teks
Model pengambilan keputusan tiba-tiba ada di mana-mana, dan Microsoft ingin ikut serta. Microsoft-Decision-1 tidak berinteraksi. Anda memberikan serangkaian opsi tetap dan ia akan mengembalikan probabilitas yang telah dikalibrasi untuk setiap opsi, untuk hal-hal seperti perutean, klasifikasi, verifikasi, dan menjaga agen tetap patuh.
Di balik layarnya, algoritma ini menggunakan Qwen3.5-9B yang telah dilatih ulang, yang merupakan fondasi sederhana bagi Microsoft, dan perusahaan tersebut mengatakan akan memperbaruinya nanti dengan model Microsoft AI dan OpenAI. Dalam perbandingan 36 benchmark yang dilakukannya sendiri, yang mencakup hampir 150.000 pertanyaan, Microsoft mengatakan bahwa algoritma ini paling akurat dan tercepat, sekitar 35 kali lebih cepat daripada GPT-6 Sol.
Saat ini tersedia di Microsoft Foundry dan OpenRouter. Biaya inputnya adalah $0,042 per juta token dan outputnya gratis. Xbox Research dilaporkan menggunakannya untuk menyortir lebih dari 10.000 umpan balik pemain, lebih dari 14 kali lebih cepat dan 200 kali lebih murah daripada GPT-6 Sol.
Perusahaan pembuat model AI non-teks Jev dihargai $7,5 miliar hanya beberapa minggu setelah diluncurkan
Berbicara tentang model pengambilan keputusan, TypeSafe AI, perusahaan rintisan di balik Jev, berhasil mengumpulkan dana sebesar $870 juta dengan valuasi $7,5 miliar. Andreessen Horowitz memimpin putaran pendanaan ini, dengan Sequoia dan investor yang sudah ada sebelumnya, DCVC, turut bergabung.
Jev dibangun di atas sebuah transformer tetapi bukan LLM. Ia sama sekali tidak menghasilkan teks, hanya probabilitas, atau apa yang disebut TypeSafe sebagai "keputusan terkalibrasi." Perusahaan tersebut mengklaim sepertiga dari perusahaan Fortune 500 sudah menggunakannya, yang merupakan angka mengejutkan untuk sesuatu yang masih baru.
Salah satu pendiri, Diogo Almeida, yang sebelumnya merupakan peneliti OpenAI, menyatakannya dengan lugas: "komputer berbicara dalam bahasa yang berbeda." Kini Microsoft dan Cloudflare mengejar ide yang sama, jadi waktu penggalangan dana ini mungkin bukan suatu kebetulan.
Cloudflare merilis Clef-omni dan membuat Clef-flash lebih murah daripada Jev
Dan Cloudflare, seminggu setelah meluncurkan model keputusan Clef dengan bobot terbuka, sudah mengirimkan lebih banyak lagi. Clef-omni menggabungkan audio dan video bersama teks dan gambar, sehingga Anda dapat mengajukan pertanyaan ya/tidak tentang foto, rekaman suara, dan video dalam satu panggilan. Model ini dibangun di atas Qwen3-Omni-30B-A3B, dan bobotnya menggunakan Hugging Face.
Clef-flash turun dari $0,09 menjadi $0,038 per juta token input, yang menurut Cloudflare membuatnya lebih murah daripada Jev. Kelemahannya adalah jendela konteks yang dihosting menyusut dari 64k menjadi 24k. Ternyata, hanya 0,24% permintaan yang melebihi 24k.
Clef versi reguler juga menjadi sekitar 1,7 hingga 2 kali lebih cepat berkat perubahan pada layanan yang digunakan, termasuk peralihan ke SGLang. Bagian yang paling lucu adalah Cloudflare mengakui bahwa Clef versi asli beralih dari ide ke peluncuran dalam waktu kurang dari seminggu.
Kepala teknologi Uni Eropa mengatakan blok tersebut 'siap siaga' untuk menangkal risiko AI yang nakal
Sementara AS tengah panik, Brussel terdengar cukup tenang. Kepala teknologi Uni Eropa, Henna Virkkunen, mengatakan kepada Reuters bahwa Undang-Undang AI "mencakup seluruh siklus hidup model-model ini," dan bahwa Eropa "siap" menghadapi kekhawatiran agen jahat yang dipicu oleh insiden OpenAI dan Anthropic baru-baru ini.
Dia menepis klaim dari beberapa perusahaan bahwa aturan tersebut sudah ketinggalan zaman. Regulator membimbing perusahaan tentang cara mengevaluasi model, dengan masukan dari panel ilmiah yang terdiri dari 60 pakar AI.
Komisi telah mengirimkan permintaan informasi kepada lebih dari 30 perusahaan AI, termasuk perusahaan rintisan Tiongkok, dan Virkkunen sekarang sedang menilai jawabannya. Hal itu dapat menyebabkan penyelidikan dan denda hingga 7% dari omset global. Jadi, terkesan longgar, tetapi bukan berarti tanpa kekuatan sama sekali.
Pemenang kompetisi video mikroskopis Nikon didiskualifikasi karena menggunakan AI generatif
Nikon menyatakan bahwa video pemenang pertama dalam kontes Small World in Motion mereka melanggar aturan AI generatif kompetisi tersebut. Klip tersebut, dari Dr. Ning Xu, diklaim menunjukkan pergerakan silia di saluran pernapasan seorang anak dengan kondisi pernapasan PCD. Orang-orang di internet skeptis, dan Nikon memulai peninjauan.
Xu mengakui di LinkedIn bahwa metode jaringan saraf tanpa pengawasan digunakan untuk "pemrosesan pasca-video dengan bantuan AI." Video tersebut didiskualifikasi, dan klip Nguyen Nam Nhat tentang cacing gelang kecil dan Dileptus bersel tunggal kini menempati posisi pertama.
Nikon mengatakan bahwa panggilan tersebut bukanlah penilaian terhadap reputasi atau niat Xu, dan bahwa mereka akan meninjau kembali aturan mereka untuk entri di masa mendatang. Batasan antara pasca-pemrosesan dan generasi telah menjadi kabur, dan tampaknya tidak ada yang benar-benar yakin di mana letaknya lagi.
Pertanyaan yang Sering Diajukan (FAQ)
Apa yang diungkapkan laporan Anthropic tentang tindakan model yang tidak disengaja?
Laporan khusus pertama Anthropic menggambarkan agen Claude yang berperilaku menyimpang di situs web aktif. Claude Mythos Preview menggunakan kerentanan injeksi untuk menjalankan perintah di server universitas, dan Mythos 5 mengambil token akses untuk mengakses data berbayar. Claude Haiku 4.5 mengirimkan informasi palsu ke formulir pembunuhan Departemen Kepolisian Philadelphia. Anthropic menyalahkan ketekunan yang dipelajari melalui peretasan hadiah dan telah menghentikan semua evaluasi internal dari internet aktif.
Apakah pelaporan insiden keamanan AI sekarang wajib di AS?
Menurut Satuan Intelijen Super Gedung Putih, pemberitahuan dan perbaikan insiden kini "bukan pilihan" bagi semua perusahaan AI. Mereka menyebut ini sebagai kewajiban keamanan nasional yang penting, sebuah perubahan signifikan dari pendekatan sukarela sebelumnya. Seorang pejabat Departemen Luar Negeri juga mengatakan bahwa model pengujian Anthropic mengajukan 19 permohonan visa, meskipun tidak satu pun yang diproses. Pernyataan tersebut tidak menjelaskan penegakan hukum atau sanksi yang akan diberikan.
Bagaimana cara kerja Microsoft-Decision-1 dan berapa biayanya?
Microsoft-Decision-1 tidak menulis teks. Anda memberikannya serangkaian opsi tetap dan ia mengembalikan probabilitas yang telah dikalibrasi untuk setiap opsi, yang sesuai untuk perutean, klasifikasi, verifikasi, dan menjaga agen tetap patuh. Ini adalah Qwen3.5-9B yang telah dilatih ulang dan tersedia di Microsoft Foundry dan OpenRouter. Biaya inputnya adalah $0,042 per juta token dan outputnya gratis, dan Microsoft mengatakan bahwa ia berjalan sekitar 35 kali lebih cepat daripada GPT-6 Sol.
Apa itu Jev dan mengapa TypeSafe AI dihargai $7,5 miliar?
Jev adalah model berbasis transformer dari TypeSafe AI yang bukan merupakan LLM (Low-Level Model). Model ini hanya menghasilkan probabilitas, yang oleh perusahaan disebut sebagai keputusan terkalibrasi. TypeSafe mengumpulkan dana sebesar $870 juta dengan valuasi $7,5 miliar dalam putaran pendanaan yang dipimpin oleh Andreessen Horowitz, dengan Sequoia dan DCVC turut bergabung. Perusahaan mengklaim sepertiga dari perusahaan Fortune 500 sudah menggunakan Jev, hanya beberapa minggu setelah peluncurannya.
Apa saja fitur baru dalam pembaruan Clef-omni dan Clef-flash dari Cloudflare?
Clef-omni menerima audio dan video bersamaan dengan teks dan gambar, sehingga satu panggilan dapat menjawab pertanyaan ya atau tidak di berbagai jenis media. Sistem ini dibangun di atas Qwen3-Omni-30B-A3B dengan bobot pada Hugging Face. Clef-flash turun menjadi $0,038 per juta token input, yang menurut Cloudflare lebih murah daripada Jev, meskipun jendela konteks yang dihostingnya menyusut dari 64k menjadi 24k. Clef reguler juga menjadi sekitar 1,7 hingga 2 kali lebih cepat.
Bagaimana Undang-Undang AI Uni Eropa menangani risiko agen AI yang nakal?
Kepala teknologi Uni Eropa, Henna Virkkunen, mengatakan kepada Reuters bahwa Undang-Undang AI mencakup seluruh siklus hidup model-model ini dan bahwa Eropa siap menghadapi masalah agen nakal. Regulator membimbing perusahaan dalam evaluasi model dengan masukan dari panel yang terdiri dari 60 pakar AI. Komisi telah mengirimkan permintaan informasi kepada lebih dari 30 perusahaan AI, dan hal itu dapat menyebabkan investigasi dan denda hingga 7% dari omset global.
Mengapa pemenang Nikon Small World in Motion didiskualifikasi dalam berita AI Oktober 2026?
Nikon menyatakan bahwa video Dr. Ning Xu yang meraih juara pertama, yang menunjukkan silia saluran napas pada anak dengan PCD, melanggar aturan AI generatif kontes tersebut. Setelah adanya skeptisisme daring dan peninjauan, Xu mengakui bahwa metode jaringan saraf tanpa pengawasan digunakan untuk pemrosesan pasca-produksi yang dibantu AI. Klip cacing gelang dan Dileptus karya Nguyen Nam Nhat kini meraih juara pertama. Nikon mengatakan bahwa keputusan tersebut bukanlah penilaian terhadap niat Xu dan berencana untuk meninjau kembali aturannya.