Seorang pria berkonsultasi dengan chatgpt sebelum mengubah dietnya. Tiga bulan kemudian, setelah secara konsisten bertahan dengan perubahan diet itu, ia berakhir di departemen darurat dengan gejala kejiwaan baru, termasuk paranoia dan halusinasi.
Ternyata pria berusia 60 tahun itu memiliki bromisme, sebuah sindrom yang disebabkan oleh paparan berlebihan kronis terhadap senyawa kimia bromida atau sepupunya yang dekat. Dalam hal ini, pria itu telah mengonsumsi natrium bromida yang telah dibeli secara online.
Laporan kasus pria itu diterbitkan Selasa (5 Agustus) di jurnal Sejarah Kasus Klinis Kedokteran Internal.
Live Science menghubungi Openai, pengembang ChatGPT, tentang kasus ini. Seorang juru bicara mengarahkan reporter ke Ketentuan Layanan Perusahaanyang menyatakan bahwa layanannya tidak dimaksudkan untuk digunakan dalam diagnosis atau perawatan kondisi kesehatan apa pun, dan Ketentuan penggunaan merekanegara bagian mana, “Anda tidak boleh mengandalkan output dari layanan kami sebagai satu -satunya sumber kebenaran atau informasi faktual, atau sebagai pengganti nasihat profesional.” Juru bicara itu menambahkan bahwa tim keselamatan Openai bertujuan untuk mengurangi risiko menggunakan layanan perusahaan dan melatih produk untuk mendorong pengguna untuk mencari nasihat profesional.
“Eksperimen Pribadi”
Pada abad ke -19 dan ke -20, bromida banyak digunakan dalam obat resep dan over-the-counter (OTC)termasuk obat penenang, antikonvulsan dan alat bantu tidur. Namun, seiring waktu, itu menjadi jelas bahwa paparan kronisseperti melalui penyalahgunaan obat -obatan ini, menyebabkan bromisme.
Terkait: Apa itu minyak nabati brominasi, dan mengapa FDA melarangnya dalam makanan?
“Toksidrom” ini – sebuah sindrom yang dipicu oleh akumulasi racun – dapat menyebabkan gejala neuropsikiatri, termasuk psikosis, agitasi, mania dan delusi, serta masalah dengan memori, pemikiran dan koordinasi otot. Bromida dapat memicu gejala-gejala ini karena, dengan paparan jangka panjang, itu menumpuk di dalam tubuh dan merusak fungsi neuron.
Pada 1970 -an dan 1980 -an, regulator AS menghapus beberapa bentuk bromida dari obat -obatan OTC, termasuk natrium bromida. Tingkat bromisme turun secara signifikan sesudahnya, dan kondisinya relatif jarang saat ini. Namun, kasus sesekali masih terjadi, dengan beberapa yang baru -baru ini diikat suplemen makanan yang mengandung bromida yang dibeli orang secara online.
Sebelum kasus pria baru -baru ini, dia telah membaca tentang efek kesehatan negatif dari mengonsumsi terlalu banyak garam meja, juga disebut natrium klorida. “Dia terkejut bahwa dia hanya bisa menemukan literatur yang berkaitan dengan mengurangi natrium dari diet seseorang,” bukannya mengurangi klorida, kata laporan itu. “Terinspirasi oleh sejarahnya mempelajari nutrisi di perguruan tinggi, ia memutuskan untuk melakukan eksperimen pribadi untuk menghilangkan klorida dari dietnya.”
(Perhatikan bahwa klorida penting untuk mempertahankan volume darah dan tekanan darah yang sehatdan masalah kesehatan dapat muncul jika kadar klorida dalam darah menjadi terlalu rendah atau terlalu tinggi.)
Pasien berkonsultasi dengan chatgpt – baik chatgpt 3.5 atau 4.0, berdasarkan garis waktu kasus. Penulis laporan tidak mendapatkan akses ke log percakapan pasien, sehingga kata -kata yang tepat bahwa model bahasa besar (LLM) yang dihasilkan tidak diketahui. Tetapi pria itu melaporkan bahwa chatgpt mengatakan klorida dapat ditukar dengan bromida, jadi dia menukar semua natrium klorida dalam makanannya dengan natrium bromida. Para penulis mencatat bahwa pertukaran ini kemungkinan berfungsi dalam konteks penggunaan natrium bromida untuk pembersihan, daripada penggunaan diet.
Dalam upaya untuk mensimulasikan apa yang mungkin terjadi dengan pasien mereka, dokter pria itu mencoba bertanya kepada Chatgpt 3.5 dengan apa klorida dapat diganti, dan mereka juga mendapat respons yang termasuk bromida. LLM memang mencatat bahwa “konteks penting,” tetapi tidak memberikan peringatan kesehatan khusus atau mencari lebih banyak konteks tentang mengapa pertanyaan itu diajukan, “seperti yang kami anggap sebagai profesional medis,” tulis para penulis.
Pulih dari bromisme
Setelah tiga bulan mengonsumsi natrium bromida alih -alih garam meja, pria itu melaporkan ke departemen darurat dengan kekhawatiran bahwa tetangganya meracuni dia. Labinya pada saat itu menunjukkan penumpukan karbon dioksida dalam darahnya, serta peningkatan alkalinitas (kebalikan dari keasaman).
Dia juga tampaknya telah meningkatkan kadar klorida dalam darahnya tetapi kadar natrium normal. Setelah diselidiki lebih lanjut, ini ternyata merupakan kasus “pseudohyperchloremia,” yang berarti tes laboratorium untuk klorida memberikan hasil yang salah karena senyawa lain dalam darah – yaitu, sejumlah besar bromida – telah mengganggu pengukuran. Setelah berkonsultasi dengan literatur medis dan kontrol racun, dokter pria itu menentukan diagnosis yang paling mungkin adalah bromisme.
Terkait: Chatgpt benar -benar mengerikan dalam mendiagnosis kondisi medis
Setelah dirawat untuk pemantauan dan repetisi elektrolit, pria itu mengatakan dia sangat haus tetapi paranoid tentang air yang ditawari. Setelah seharian penuh di rumah sakit, paranoia semakin intensif dan ia mulai mengalami halusinasi. Dia kemudian mencoba melarikan diri dari rumah sakit, yang mengakibatkan penahanan kejiwaan yang tidak disengaja, di mana dia mulai menerima Antipsikotik.
Vital pria itu distabilkan setelah ia diberi cairan dan elektrolit, dan ketika kondisi mentalnya meningkat pada antipsikotik, ia dapat memberi tahu para dokter tentang penggunaan chatgpt. Dia juga mencatat gejala tambahan yang dia perhatikan baru -baru ini, seperti jerawat wajah dan pertumbuhan merah kecil di kulitnya, yang bisa menjadi reaksi hipersensitivitas terhadap bromida. Dia juga mencatat insomnia, kelelahan, masalah koordinasi otot dan kehausan yang berlebihan, “lebih lanjut menyarankan bromisme,” tulis dokternya.
Dia meruncing dari obat antipsikotik selama tiga minggu dan kemudian keluar dari rumah sakit. Dia tetap stabil di check-in dua minggu kemudian.
“Meskipun ini adalah alat dengan banyak potensi untuk menyediakan jembatan antara para ilmuwan dan populasi nonakademik, AI juga membawa risiko untuk mengumumkan informasi dekontekstualisasi,” kata penulis laporan. “Sangat tidak mungkin bahwa seorang ahli medis akan menyebutkan natrium bromida ketika dihadapkan dengan seorang pasien yang mencari pengganti yang layak untuk natrium klorida.”
Mereka menekankan bahwa, “ketika penggunaan alat AI meningkat, penyedia perlu mempertimbangkan ini ketika skrining di mana pasien mereka mengkonsumsi informasi kesehatan.”
Menambah kekhawatiran yang diajukan oleh laporan kasus, sekelompok ilmuwan yang berbeda baru -baru ini menguji enam llmstermasuk chatgpt, dengan memiliki model menafsirkan catatan klinis yang ditulis oleh dokter. Mereka menemukan bahwa LLM “sangat rentan terhadap serangan halusinasi permusuhan,” yang berarti mereka sering menghasilkan “detail klinis palsu yang menimbulkan risiko ketika digunakan tanpa perlindungan.” Menerapkan perbaikan rekayasa dapat mengurangi tingkat kesalahan tetapi tidak menghilangkannya, para peneliti menemukan. Ini menyoroti cara lain di mana LLMS dapat memperkenalkan risiko dalam pengambilan keputusan medis.
Artikel ini hanya untuk tujuan informasi dan tidak dimaksudkan untuk menawarkan saran medis atau diet.
