ChatGPT Mode Remaja, OpenAI Kena Sorot Soal Keamanan

OpenAI meluncurkan ChatGPT khusus remaja 13 sampai 17 tahun dengan proteksi konten lebih ketat. Tapi cara sistem mendeteksi umur bikin publik bertanya soal privasi.

[AI][Cybersecurity]

OpenAI baru aja ngeluarin versi ChatGPT khusus remaja usia 13 sampai 17 tahun. Tujuannya bagus, proteksi lebih ketat di topik yang sensitif. Tapi peluncurannya langsung disorot, terutama soal gimana sistemnya ngedeteksi umur.

Ini contoh nyata gimana produk AI mainstream mulai masuk ke ranah anak-anak, dan nggak semua orang nyaman dengan caranya.

Apa yang berubah

Versi Teens ini punya proteksi ekstra di konten yang nyerempet soal bunuh diri, self-harm, dan percakapan romantis atau seksual. Ada juga fitur yang diarahkan buat bantu belajar, biar remaja bisa pakai ChatGPT buat urusan akademik tanpa gampang nyontek.

Menurut analis teknologi Carmi Levy, sistem ini juga ngintip pola pemakaian buat nebak umur user. Kalau dideteksi bohong soal umur pas daftar, akun bakal otomatis dialihin ke mode Teens.

Kenapa jadi perdebatan

Niatnya melindungi, tapi caranya bikin orang geregetan. Ngumpulin sinyal dari cara orang pakai tool buat nebak umur itu masuk area abu-abu privasi, apalagi buat pengguna di bawah umur yang datanya jauh lebih sensitif.

Ada yang bilang ini lebih baik daripada nggak ada proteksi sama sekali. Tapi kalau deteksi umurnya meleset, orang dewasa bisa kejebak di mode yang terlalu dibatasi.

Peluncuran ChatGPT buat remaja ini masih tahap awal dan banyak yang belum jelas. Tapi arahnya udah kelihatan, produk AI besar bakal makin serius ngurusin keamanan user muda. Safety sekarang jadi fitur utama, bukan pelengkap.

Sumber: OpenAI Faces Safety Scrutiny After Introducing 'ChatGPT For Teens'