Чим небезпечні поради чат-ботів: історія, що варта вашої уваги

Уявіть: ви вирішили замінити звичну сіль на щось корисніше, запитали поради в чат-бота — і за кілька місяців опинилися в лікарні з галюцинаціями. Саме це сталося з 60-річним мешканцем Сіетла.

Чоловік звернувся до відділення невідкладної допомоги зі скаргами на параною, слухові та зорові галюцинації. Він був переконаний, що сусід намагається його отруїти. Лікарі провели аналізи, але отруєння не виявили — поки не помітили аномально високий рівень хлоридів у крові.

Спочатку медики припустили гіперхлоремію — стан, що виникає через зневоднення або надмірне споживання солі. Однак подальші дослідження показали: кров пацієнта мала надто негативний заряд, що вказувало на накопичення невідомої негативно зарядженої речовини. Токсикологи з'ясували: це псевдогіперхлоремія, коли тест на хлориди помилково реагує на інший іон.

Підозра впала на бромід — іон брому, який за хімічними властивостями дуже схожий на хлорид. Рівень броміду в крові чоловіка виявився у 230 разів вищим за норму. Це отруєння, яке може викликати неврологічні симптоми — від галюцинацій до параної.

Три тижні лікування знадобилося, щоб стан пацієнта стабілізувався. Коли йому полегшало, він розповів: шукав здорову альтернативу кухонній солі та звернувся за порадою до ChatGPT. Чат-бот порадив замінити хлорид натрію на бромід натрію. Чоловік кілька місяців слідував цій пораді.

Лікарі вирішили перевірити, чи повторить бот свою рекомендацію, і поставили йому те саме питання. ChatGPT знову запропонував бромідну сіль — без жодного попередження про ризики.

Історія з бромідом не нова: на початку XX століття ліки на його основі були популярні, але їх вилучили з обігу, коли з'ясувалося, що саме бромід спричиняв 8% госпіталізацій до психіатричних лікарень. Сьогодні отруєння бромідом — рідкість, тож лікарі рідко підозрюють його. Але добавки з цією речовиною легко замовити в інтернеті.

Ця історія — не заклик повністю відмовлятися від штучного інтелекту. Але вона нагадує: коли йдеться про здоров'я, найкраще радитися з лікарем, а не з алгоритмом. Поради чат-бота можуть бути небезпечними, навіть якщо звучать логічно.