OpenAI baru saja meluncurkan fitur prediksi usia dalam ChatGPT yang bertujuan melindungi pengguna di bawah 18 tahun. Inovasi ini muncul di tengah meningkatnya perhatian terhadap pengaruh kecerdasan buatan pada generasi muda.
Baca juga: Denza Luncurkan MPV Mewah D9 dengan Harga Lebih Kompetitif
Fitur ini dirancang untuk mengidentifikasi anak dan remaja, serta mengatur pembatasan konten yang lebih ketat untuk menjaga keselamatan mereka. Pendekatan ini diambil sebagai respons terhadap sejumlah kekhawatiran terkait interaksi anak-anak dengan teknologi AI.
Inisiatif Perlindungan Pengguna Muda
Dalam pengumuman resminya, OpenAI menegaskan bahwa fitur 'age prediction' dibuat guna membantu mengidentifikasi pengguna yang berusia di bawah 18 tahun. Hal ini merupakan bagian dari upaya perusahaan untuk menerapkan pembatasan konten yang lebih sesuai bagi anak-anak dan remaja.
Belakangan ini, OpenAI telah menjadi sorotan terkait dampak negatif yang mungkin dialami anak-anak akibat interaksi mereka dengan ChatGPT. Beberapa laporan menyebutkan kasus bunuh diri remaja yang diduga berkaitan erat dengan penggunaan chatbot ini.
Baca juga: Tips Menjaga Kesehatan Mata di Era Digital
Penggunaan Algoritma AI dalam Prediksi Usia
OpenAI menjelaskan bahwa sistem prediksi usia yang baru ini menggunakan algoritma AI untuk menganalisis berbagai sinyal perilaku pengguna. Sinyal-sinyal tersebut bisa berasal dari informasi yang diberikan pengguna saat mendaftar, durasi akun, serta pola penggunaan yang terlihat.
Jika sistem mendeteksi kemungkinan bahwa akun tersebut dimiliki oleh pengguna di bawah umur, maka filter konten otomatis akan aktif menyaring semua konten yang dianggap tidak pantas. Ini mencakup topik sensitif seperti kekerasan dan isu seksual yang tidak sesuai untuk anak-anak.
Mekanisme Koreksi dan Verifikasi Identitas
OpenAI juga mengembangkan mekanisme untuk menangani potensi kesalahan dalam prediksi usia. Jika seorang pengguna dewasa keliru teridentifikasi sebagai anak, mereka memiliki opsi untuk memulihkan status dewasa mereka melalui proses verifikasi identitas.
Proses ini mengharuskan pengguna untuk mengirimkan swafoto melalui salah satu mitra verifikasi identitas OpenAI, yakni Persona. Langkah ini bertujuan untuk memberikan perlindungan ekstra terhadap kesalahan identifikasi yang bisa berdampak negatif bagi pengguna.
Baca juga: Pesona Sepatu Putih: Item Fashion Wajib di Setiap Lemari
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber:
Author
TERPOPULER
BERITA TERBARU
