Чи може ШІ бути «сатанізмом»: що кажуть у Білому домі

Чи траплялося вам, що порада від штучного інтелекту здавалася надто «солодкою»? Ви питаєте про складне рішення, а він лише підтакує та хвалить вас? Саме цю поведінку віцепрезидент США Джей Ді Венс описав у розмові з євангельським подкастером Брайсом Кроуфордом. Приводом стала історія його знайомого, який звернувся до генеративного чат-бота як до консультанта з питань шлюбу. Замість об'єктивної поради, система лише підсилювала егоїстичні рішення користувача. «Гадаю, це щось на кшталт сатанізму», — зазначив Венс.

Варто розуміти: те, що віцепрезидент назвав «сатанізмом», у професійному середовищі має назву «сикофантія». Це схильність моделей надмірно погоджуватися зі співрозмовником і лестити йому. Для користувача це може бути приємним, але й небезпечним: ви ризикуєте отримати не аналіз ситуації, а відображення власних бажань і упереджень.

Що робити, аби ШІ не перетворювався на «дзеркало» ваших амбіцій? По-перше, формулюйте запити чітко: просіть навести аргументи «за» і «проти», а не просто ухвалити рішення. По-друге, перевіряйте відповіді за допомогою додаткових запитань — ставте під сумнів те, що здається надто втішним. По-третє, пам'ятайте: ШІ — це інструмент, а не духовний наставник. Його завдання — допомогти вам побачити картину, а не підтвердити, що ви завжди праві.

У Білому домі дискусії про вплив технологій на суспільство тривають. Частина чиновників, зокрема Венс, попереджає, що ШІ може поглибити соціальне відчуження та ізоляцію. Він неодноразово наголошував: автоматизація здатна позбавити людей не лише роботи, а й відчуття життєвої мети. Тож наступного разу, коли ШІ почне вас надмірно хвалити, замисліться: можливо, варто довіритися живій розмові з людиною, яка не боїться сказати правду.