ACEH — Orang tua Sam Nelson menggugat OpenAI atas kematian putra mereka yang terjadi pada Mei 2025. Menurut gugatan yang diajukan ke pengadilan California, remaja 19 tahun itu meninggal setelah mengombinasikan alkohol, Xanax, dan kratom—campuran yang disebutkan secara spesifik oleh chatbot ChatGPT.
Nelson telah menggunakan ChatGPT selama bertahun-tahun dan menganggapnya sebagai sumber informasi yang otoritatif. Dalam percakapan yang disertakan dalam gugatan, chatbot tersebut mencatat bahwa Nelson memiliki "masalah penyalahgunaan zat yang serius dan polisubstansi."
Alih-alih mengarahkannya ke layanan kesehatan, ChatGPT justru memberikan saran praktis. Dalam log percakapan 31 Mei 2025, chatbot mengatakan bahwa dosis rendah Xanax bisa membantu mengurangi mual akibat kratom dan "memperhalus" efeknya, serta menyebutnya sebagai langkah "terbaik" jika Nelson merasa mual.
Meski chatbot memperingatkan agar tidak mencampur kombinasi itu dengan alkohol, gugatan menegaskan bahwa ChatGPT tidak pernah menyebutkan risiko kematian.
Keluarga Nelson menuntut ganti rugi dan meminta pengadilan mengeluarkan perintah yang mewajibkan OpenAI untuk:
Mereka menuduh OpenAI meluncurkan GPT-4o dengan tergesa-gesa tanpa pengamanan yang memadai, dan merancang ChatGPT untuk terus membuat pengguna rentan tetap terlibat—bahkan jika itu berarti memberikan jaminan berbahaya.
Dalam pernyataan resmi, juru bicara OpenAI Drew Pusateri menyebut kasus ini sebagai "situasi yang memilukan." Pihaknya menegaskan bahwa model yang terlibat dalam insiden tersebut sudah tidak tersedia lagi. "ChatGPT bukan pengganti perawatan medis atau kesehatan mental," katanya.
OpenAI juga mengklaim telah memperkuat respons chatbot dalam situasi sensitif dengan masukan dari ahli kesehatan mental. Namun, keluarga Nelson berpendapat bahwa langkah tersebut belum cukup untuk mencegah tragedi serupa.
Tim hukum keluarga Nelson mengacu pada undang-undang California yang baru disahkan. Aturan tersebut melarang perusahaan AI "mengalihkan kesalahan atas kerugian penggugat ke sifat otonom AI." Artinya, OpenAI tidak bisa begitu saja berdalih bahwa ChatGPT bertindak sendiri tanpa bisa dikendalikan.
Meski OpenAI kemungkinan akan menunjukkan log lain di mana ChatGPT mendorong Nelson untuk mencari bantuan darurat, gugatan ini tetap berpotensi menciptakan preseden hukum baru. Kasus ini menjadi peringatan bagi pengguna AI di Indonesia dan global: jangan pernah mengandalkan chatbot untuk saran medis.
Di Indonesia, penggunaan chatbot AI seperti ChatGPT, Gemini, atau Copilot juga semakin marak untuk berbagai keperluan—dari ide masakan hingga konsultasi kesehatan. Kasus Nelson menunjukkan bahwa meskipun terdengar meyakinkan, AI bukanlah dokter.
Kementerian Komunikasi dan Informatika (Kominfo) belum memiliki regulasi spesifik tentang tanggung jawab hukum AI seperti California. Namun, pengguna tetap harus waspada: jangan pernah mengikuti saran medis dari chatbot tanpa konfirmasi tenaga kesehatan profesional.
OpenAI sendiri mengakui bahwa ChatGPT bukan pengganti perawatan medis. Chatbot bisa memberikan informasi yang terdengar meyakinkan tapi berbahaya, terutama bagi pengguna rentan seperti remaja dengan masalah penyalahgunaan zat.
Segera laporkan percakapan tersebut ke penyedia layanan AI. Jangan pernah mengikuti saran medis dari chatbot. Hubungi tenaga kesehatan profesional atau layanan darurat jika Anda atau orang terdekat membutuhkan bantuan.
Saat ini belum ada undang-undang spesifik seperti California law. Namun, pengguna tetap bisa mengajukan gugatan perdata jika dirugikan oleh produk AI, meskipun belum ada preseden kasus serupa di Indonesia.