Apple untuk sementara menarik fitur kecerdasan Spaceman buatan yang baru diperkenalkan yang merangkum pemberitahuan berita setelah berulang kali mengirim berita utama yang salah kepada pengguna, yang memicu reaksi keras dari organisasi berita dan kelompok kebebasan pers.
Pembalikan yang jarang terjadi dari pembuat iPhone pada fitur Apple Intelligence yang dipasarkan secara besar-besaran ini terjadi setelah teknologi tersebut menghasilkan ringkasan berita utama yang menyesatkan atau sepenuhnya salah yang tampak hampir identik dengan pemberitahuan push biasa.
Pada hari Kamis, Apple meluncurkan pembaruan perangkat lunak beta kepada para pengembang yang menonaktifkan fitur AI untuk berita utama dan hiburan, yang rencananya akan diluncurkan ke semua pengguna saat Apple berupaya meningkatkan fitur AI. Perusahaan berencana untuk mengaktifkan kembali fitur tersebut dalam pembaruan mendatang.
Sebagai bagian dari pembaruan, perusahaan mengatakan ringkasan Apple Intelligence, yang harus disetujui pengguna, akan secara lebih eksplisit menekankan bahwa informasi tersebut telah diproduksi oleh AI, yang menandakan bahwa terkadang dapat menghasilkan hasil yang tidak akurat.
Bulan lalu, BBC mengeluh kepada Apple tentang teknologi tersebut, mendesak perusahaan tersebut untuk menghapus fitur tersebut setelah membuat berita utama palsu yang menyatakan bahwa Luigi Mangione, yang didakwa atas pembunuhan atas kematian CEO UnitedHealthcare, telah menembak dirinya sendiri. Pada kesempatan lain, tiga artikel New York Times juga diringkas dalam satu pemberitahuan push, yang secara keliru menyatakan bahwa Perdana Menteri Israel Benjamin Netanyahu telah ditangkap.
Seorang juru bicara BBC mengatakan kepada CNN pada bulan Desember bahwa “sangat penting bagi Apple untuk segera mengatasi masalah ini karena keakuratan berita kami sangat penting dalam menjaga kepercayaan. Ringkasan AI oleh Apple ini tidak mencerminkan — dan dalam beberapa kasus sepenuhnya bertentangan — dengan konten BBC yang asli.”
Pada hari Rabu, fitur yang didukung AI tersebut sekali lagi secara keliru meringkas pemberitahuan Washington Post, dengan menyatakan secara keliru “Pete Hegseth dipecat; tarif Trump berdampak pada inflasi; Pam Bondi dan Marco Rubio mengonfirmasi.” Tidak satu pun dari pernyataan tersebut benar.
“Ini adalah omelan berkala saya bahwa Apple Intelligence sangat buruk sehingga hari ini ia salah dalam setiap fakta, AI-nya adalah ringkasan peringatan berita Washington Post,” tulis kolumnis teknologi surat kabar tersebut, Geoffrey Fowler. “Sangat tidak bertanggung jawab bahwa Apple tidak menonaktifkan ringkasan untuk aplikasi berita sampai ia menjadi sedikit lebih baik dalam hal AI ini.”
Kelompok kebebasan pers juga telah menyoroti bahaya yang ditimbulkan ringkasan tersebut bagi konsumen yang mencari informasi yang dapat diandalkan, dengan Reporters Without Borders menyebutnya sebagai “bahaya bagi hak publik untuk mendapatkan informasi yang dapat diandalkan tentang peristiwa terkini” dan National Union of Journalists , salah satu serikat jurnalis terbesar di seluruh dunia, menekankan “publik tidak boleh ditempatkan dalam posisi menebak-nebak keakuratan berita yang mereka terima.” Keduanya menyerukan agar ringkasan yang didukung AI tersebut dihapus.
Masalah AI Apple bukanlah pertama kalinya seorang pengembang harus berhadapan dengan teknologi yang memalsukan informasi, dengan model populer seperti ChatGPT sering kali menghasilkan “halusinasi” yang meyakinkan.
Model bahasa besar, teknologi di balik perangkat AI, dilatih untuk menanggapi masukan menggunakan “jawaban yang terdengar masuk akal” terhadap perintah, Suresh Venkatasubramanian, seorang profesor di Universitas Brown yang membantu menulis bersama Cetak Biru Gedung Putih untuk Piagam Hak AI , sebelumnya mengatakan kepada CNN .
“Jadi, dalam pengertian itu, jawaban apa pun yang kedengarannya masuk akal, entah itu akurat atau faktual atau dibuat-buat atau tidak, adalah jawaban yang masuk akal, dan itulah yang dihasilkannya,” kata Venkatasubramanian. “Tidak ada pengetahuan tentang kebenaran di sana.”
Dua tahun setelah peluncuran ChatGPT, halusinasi AI masih marak seperti sebelumnya. Sebuah studi pada bulan Juli 2024 dari Cornell, University of Washington, dan University of Waterloo menemukan bahwa model AI teratas masih belum dapat dipercaya sepenuhnya mengingat kecenderungan mereka untuk mengarang informasi.
