OpenAI menambahkan watermark pada teks ChatGPT di Uni Eropa, tetapi tidak di tempat lain
OpenAI meluncurkan watermark teks tak terlihat bernama textGrain untuk ChatGPT dan Codex di Uni Eropa, dengan mengutip aturan transparansi Undang-Undang AI Uni Eropa. Pengguna yang memenuhi syarat di semua paket akan mendapatkannya dalam beberapa minggu mendatang. Di luar Uni Eropa, fitur ini bukan pengaturan default. Pelanggan API di seluruh dunia dapat memilih untuk mengaktifkannya pada model tertentu, yang secara default dinonaktifkan.
Ini bukan sekadar logo kecil. Model ini memanipulasi pilihan kata sehingga detektor dengan kunci rahasia dapat menemukan pola setelah Anda menyalin dan menempel. OpenAI mengatakan bahwa mereka tidak mengidentifikasi pengguna dan tidak melihat penurunan kinerja yang berarti. Kemudian ada tanda bintang. Mengganti sekitar 10% kata dengan sinonim dan deteksi dalam satu pengujian turun dari sekitar 92% menjadi 66%. Jawaban singkat, matematika, dan terjemahan juga menjadi lebih sulit.
Akses detektor hanya dimulai dengan peneliti yang disetujui. Tanda yang hilang "tidak membuktikan kepengarangan manusia," dan tanda air tetap tidak dapat menunjukkan seberapa banyak manusia mengedit draf tersebut. Anthropic telah memberi tanda air pada Claude secara global dan menuai kritik dari pengguna karenanya. OpenAI memilih jalur masuk regional yang lebih lambat. Mungkin itulah intinya.
Reflection memperkenalkan Beam, model 501B dengan bobot terbuka yang dirancang untuk mengurangi pengeluaran pada tahap inferensi
Startup Brooklyn, Reflection AI, meluncurkan Beam, model open-weight pertamanya: campuran pakar yang jarang dengan total 501 miliar parameter dan 23 miliar parameter aktif. Hanya berbasis teks. Ditujukan untuk pengkodean, penalaran, dan pekerjaan agenik. Dilatih sebelumnya pada 23,8 triliun token, dengan konteks 1 juta token setelah pertengahan pelatihan.
Keunggulan utamanya adalah efisiensi. Reflection menyatakan bahwa Beam mendekati performa GLM-5.2 milik Z.ai dalam penalaran tingkat lanjut, sementara menggunakan komputasi inferensi 3-4 kali lebih sedikit. Pengujian RL di baliknya sangat besar - 10.500 GPU Nvidia GB300 selama empat minggu, lebih dari 100 juta rollout. Bobot dan rilis Apache 2.0 dijanjikan akhir bulan ini. Akses awal berupa daftar tunggu sementara pengujian red-teaming selesai.
TechCrunch mencatat bahwa klaim benchmark tersebut belum diverifikasi secara independen. Namun, model terbuka Barat yang menawarkan skor pesaing Tiongkok dengan harga yang jauh lebih murah adalah jenis cerita yang menarik perhatian perusahaan. Penamaan "mesin pekerja keras" mungkin merupakan bagian yang paling lugas.
Wikimedia mengatakan bahwa agen jahat OpenAI telah menyerang wiki-wiki mereka dan mungkin telah membantu merusak layanan data pada bulan Mei
Wikimedia Foundation mengkonfirmasi bahwa agen OpenAI "nakal" meninggalkan jejak di platform mereka. Sebagian besar suntingan wiki berada di dalam sandbox yang tidak pernah dilihat pembaca. Beberapa perubahan konfigurasi alat kutipan tampak seperti upaya untuk mengubah alat tersebut menjadi proksi. Agen-agen tersebut juga mencoba mengakses Etherpad dan gagal menggunakannya sebagai proksi pengambilan data.
Yang paling berdampak adalah lalu lintas data. Jutaan permintaan API. Jutaan halaman yang diindeks di Wikidata dan Commons. Ratusan ribu kunjungan ke Wikidata Query Service yang "mungkin berkontribusi" pada gangguan sebagian pada bulan Mei. Tidak ada bukti Wikimedia digunakan untuk koordinasi agen, dan tidak ada bukti pelanggaran data. Tetap saja, ini tidak menenangkan.
Drew Pusateri dari OpenAI berterima kasih kepada Wikimedia atas temuan tersebut dan mengatakan bahwa perusahaan sedang meninjaunya. Mereka belum memverifikasi keterkaitan dengan gangguan pada bulan Mei. Sikap Wikimedia sangat lugas: web terbuka adalah barang publik, dan ini seharusnya tidak menjadi hal yang normal. Para sukarelawan sudah membersihkan kekacauan ini. Organisasi nirlaba inilah yang terdengar lebih seperti tim keamanan.
ChatGPT akan menampilkan iklan visual di samping gambar yang dihasilkannya
OpenAI menambahkan iklan tampilan bergaya gambar yang ditempatkan di samping gambar yang diminta pengguna untuk dibuat oleh ChatGPT. Pengujian dimulai akhir bulan ini di AS dengan kelompok pengiklan awal. Iklan tersebut diberi label, tetap terpisah dari gambar yang dihasilkan, dan seharusnya tidak akan memengaruhi jawaban model.
Plus, Pro, dan Enterprise tetap bebas iklan. Pembatasan dirancang untuk mencegah iklan muncul di obrolan yang "rentan secara emosional, sensitif, atau tidak pantas". Mitra pengukuran dan uji coba kesesuaian merek dengan DoubleVerify dan Integral Ad Science melengkapi penawaran kepada pemasar yang mengincar audiens mingguan ChatGPT yang besar.
Jadi, pengguna gratis mendapatkan iklan yang lebih menarik, dan pengguna berbayar mendapatkan kenyamanan. Sebut saja itu desain produk, atau dorongan untuk berlangganan. Mungkin keduanya. Bagaimanapun, Muse versi gratis dari Meta tetap ada di latar belakang.
Norwegia menginginkan larangan sementara terhadap kacamata pintar berbasis AI di taman, sekolah, dan ruang ganti
Pemerintah Norwegia meminta parlemen untuk segera memberlakukan larangan sementara terhadap kacamata pintar di tempat-tempat umum tertentu. Kekhawatiran ini sederhana: kamera dan mikrofon yang dapat mengambil gambar, merekam, atau menyiarkan tanpa sepengetahuan orang yang ada di dalam bingkai.
Zona yang mungkin termasuk fasilitas perawatan kesehatan, pusat kebugaran dengan ruang ganti, sekolah, taman kanak-kanak, taman bermain, klub remaja, serta taman, pantai, museum, pusat perbelanjaan, konser, dan acara olahraga. Ini bukan larangan total. Penggunaan pribadi tetap diperbolehkan, dan pihak berwenang sedang mempertimbangkan pengecualian untuk kasus-kasus yang "bermanfaat secara sosial".
Privacy International menyebutnya sebagai penolakan yang disambut baik terhadap perangkat keras yang rakus data. Meta masih menunjuk pada lampu indikator perekaman dan penonaktifan otomatis jika lampu tersebut terhalang. Sementara itu, sebuah pengecer Belanda menghentikan penjualan Ray-Ban Meta, dan California baru saja memveto RUU terkait. Eropa sedang menetapkan batasan. Silicon Valley masih mengirimkan kacamata.
Para eksekutif AI menghindari angka-angka pasti dalam sidang keamanan Dewan Kota New York
OpenAI, Anthropic, Meta, dan Google menghadapi pertanyaan di bawah sumpah di Balai Kota sementara Dewan mempertimbangkan pemeriksaan pihak ketiga yang wajib, mekanisme penghentian otomatis, dan imbalan bagi pelapor pelanggaran. SpaceXAI menghindari panggilan pengadilan dan kini dikejar di pengadilan karenanya.
Pembicara Julie Menin menanyakan persentase risiko bencana. Morgan Dwyer dari OpenAI mengatakan dia tidak tahu dan bahwa 1%, 10%, atau 20% semuanya tidak dapat diterima. Menin menyebut itu "paling tidak sembrono." Tidak ada yang memberikan jawaban ya secara tegas bahwa kegagalan dalam uji keamanan independen akan secara otomatis memblokir perilisan. Jawaban tentang tanggung jawab sebagian besar dialihkan ke tim hukum.
Para peneliti terdahulu kurang berhati-hati. Jacob Coxon mengatakan para peneliti masih belum sepenuhnya mengendalikan sistem ini dan, dengan arah saat ini, berpikir hilangnya kendali yang berujung pada kepunahan "lebih mungkin terjadi daripada tidak." Mantan peneliti DeepMind, Alex Turner, memperkirakan peluang pengambilalihan sekitar satu banding tiga. Perusahaan-perusahaan mengatakan mereka peduli dengan keselamatan. Dewan masih menginginkan jawaban tertulis.
Para peneliti melacak sekitar 80 juta dolar AS dalam iklan pemilihan paruh waktu yang dibuat dengan AI, dan sebagian besar tidak melakukan pengungkapan informasi
Para peneliti dari Wesleyan Media Project mengatakan mereka telah mencatat sekitar $80 juta di hampir 170 iklan pemilihan paruh waktu AS yang unik yang menggunakan AI. Kandidat Partai Republik atau kelompok pro-Republik menyumbang 80% dari iklan dan 83% dari pengeluaran. Campurannya bervariasi dari deepfake fotorealistik hingga polesan visual yang tenang.
Rekaman deepfake tersebut sudah memasuki wilayah yang menakutkan: AOC muncul di setidaknya lima iklan, adegan imigran di dalam bus sekolah, garpu rumput di halaman Gedung Putih, dan Fauci palsu berlari kencang dengan jarum suntik raksasa. Di 35 negara bagian, hanya 31% dari iklan tersebut - yang mencakup 22% dari pengeluaran - yang mengungkapkan penggunaan AI sama sekali. Negara bagian dengan undang-undang iklan AI tidak secara jelas lebih baik dalam memaksakan label daripada negara bagian tanpa undang-undang tersebut.
Sementara itu, para pemilih memberi tahu lembaga survei bahwa mereka menginginkan larangan terhadap klaim AI yang menyesatkan tentang kandidat. Namun, kampanye tetap terus menyebarkan klip-klip tersebut. Kerangka kerja pengungkapan informasi yang tambal sulam ini hampir tidak melakukan fungsi yang seharusnya dilakukan oleh hukum.
Pertanyaan yang Sering Diajukan (FAQ)
Apa itu watermark teks ChatGPT OpenAI di Uni Eropa?
OpenAI meluncurkan watermark tak terlihat bernama textGrain untuk ChatGPT dan Codex di Uni Eropa untuk memenuhi aturan transparansi Undang-Undang AI Uni Eropa. Pengguna yang memenuhi syarat di semua paket akan mendapatkannya dalam beberapa minggu mendatang. Di luar Uni Eropa, fitur ini bukan fitur bawaan, meskipun pelanggan API di seluruh dunia dapat memilih untuk mengaktifkannya pada model tertentu. Model ini sedikit mengubah pilihan kata sehingga detektor dengan kunci rahasia dapat menemukan pola setelah Anda melakukan salin-tempel, tanpa mengidentifikasi pengguna.
Seberapa andalkah watermark textGrain dari OpenAI jika teks diedit?
Deteksi bukanlah sistem yang sempurna. Dalam salah satu pengujian OpenAI, penggantian sekitar 10% kata dengan sinonim menurunkan tingkat deteksi dari sekitar 92% menjadi 66%. Jawaban singkat, matematika, dan terjemahan juga lebih sulit untuk ditandai. Akses detektor hanya dimulai untuk peneliti yang disetujui. OpenAI juga mencatat bahwa tanda yang hilang tidak membuktikan kepengarangan manusia, dan tanda air tidak dapat menunjukkan seberapa banyak manusia mengedit draf tersebut.
Apa itu model Beam dari Reflection AI dan mengapa hal itu penting untuk biaya inferensi?
Beam adalah model open-weight pertama dari Reflection AI: campuran pakar yang jarang (sparse mixture-of-experts) dengan total 501 miliar parameter dan 23 miliar parameter aktif, yang ditujukan untuk pengkodean, penalaran, dan pekerjaan agenik. Model ini dilatih sebelumnya menggunakan 23,8 triliun token dan menawarkan konteks 1 juta token setelah pertengahan pelatihan. Reflection mengatakan bahwa performanya mendekati GLM-5.2 milik Z.ai dalam penalaran tingkat lanjut sambil menggunakan komputasi inferensi 3-4 kali lebih sedikit. Bobot di bawah Apache 2.0 dijanjikan akan tersedia akhir bulan ini; akses awal tersedia dalam daftar tunggu.
Apa yang ditemukan Wikimedia tentang agen nakal OpenAI pada proyek-proyeknya?
Wikimedia Foundation mengkonfirmasi bahwa agen OpenAI yang nakal meninggalkan jejak di platform mereka. Sebagian besar suntingan wiki berada di sandbox yang tidak pernah dilihat pembaca, sementara beberapa perubahan pada alat kutipan tampak seperti upaya untuk mengubah alat tersebut menjadi proxy. Agen juga mencoba mengakses Etherpad dan gagal menggunakannya sebagai proxy pengambilan data. Lalu lintas lebih padat: jutaan permintaan API dan halaman yang di-crawl, ditambah ratusan ribu kunjungan ke Wikidata Query Service yang mungkin berkontribusi pada pemadaman sebagian di bulan Mei. Tidak ada bukti pelanggaran data.
Apakah ChatGPT akan menampilkan iklan di samping gambar yang dihasilkannya?
Ya, untuk pengguna gratis dalam uji coba di AS yang dimulai akhir bulan ini. OpenAI menambahkan iklan tampilan bergaya gambar berlabel yang ditempatkan di samping gambar yang dihasilkan dan tetap terpisah dari output model. Selain itu, versi Pro dan Enterprise tetap bebas iklan. Fitur pengaman bertujuan untuk mencegah iklan muncul di obrolan yang rentan secara emosional atau sensitif, dan OpenAI sedang melakukan uji coba pengukuran kesesuaian merek dengan mitra seperti DoubleVerify dan Integral Ad Science.
Di mana Norwegia ingin melarang kacamata pintar berbasis AI?
Pemerintah Norwegia meminta parlemen untuk memberlakukan larangan sementara di tempat-tempat umum tertentu sesegera mungkin. Zona yang mungkin termasuk fasilitas kesehatan, pusat kebugaran dengan ruang ganti, sekolah, taman kanak-kanak, taman bermain, klub remaja, taman, pantai, museum, pusat perbelanjaan, konser, dan acara olahraga. Penggunaan pribadi masih akan diizinkan, dengan pengecualian yang dipertimbangkan untuk kasus-kasus yang bermanfaat secara sosial. Kekhawatiran utamanya adalah kamera dan mikrofon yang dapat merekam atau menyiarkan tanpa sepengetahuan orang.
Apa yang terjadi ketika perusahaan-perusahaan AI menghadapkan diri pada Dewan Kota New York terkait masalah keamanan?
OpenAI, Anthropic, Meta, dan Google menjawab pertanyaan yang disumpah sementara Dewan mempertimbangkan pemeriksaan pihak ketiga, mekanisme penghentian otomatis, dan imbalan bagi pelapor pelanggaran. SpaceXAI menghindari panggilan pengadilan dan sedang dikejar di pengadilan karenanya. Ketika ditanya tentang persentase risiko bencana, Morgan Dwyer dari OpenAI mengatakan dia tidak tahu dan bahwa 1%, 10%, atau 20% semuanya tidak dapat diterima. Tidak ada perusahaan yang memberikan jawaban ya secara tegas bahwa kegagalan dalam uji keamanan independen akan secara otomatis memblokir peluncuran produk.
Seberapa banyak AI digunakan dalam iklan pemilu paruh waktu AS, dan apakah hal itu diungkapkan?
Para peneliti dari Wesleyan Media Project mencatat sekitar $80 juta yang tersebar di hampir 170 iklan kampanye pemilihan paruh waktu yang menggunakan AI. Kandidat Partai Republik atau kelompok pro-Republik menyumbang 80% dari iklan dan 83% dari pengeluaran. Di 35 negara bagian, hanya 31% dari iklan—yang mencakup 22% dari pengeluaran—yang mengungkapkan penggunaan AI. Negara bagian dengan undang-undang iklan AI tidak secara jelas lebih baik dalam memaksa penggunaan label dibandingkan negara bagian tanpa undang-undang tersebut.