OpenAI стикається зі скаргою про порушення приватності після того, як ChatGPT невірно обвинувачує користувача у вбивстві.

Європейська неприбуткова організація noyb підтримує норвезького користувача ChatGPT у поданні офіційної скарги проти американської компанії після того, як чат-бот помилково обвинуватив його в убивстві своїх двох дітей.

Європейська некомерційна організація noyb підтримує користувача норвезького ChatGPT у поданні офіційної скарги проти американської компанії через те, що чат-бот помилково обвинуватив його у вбивстві своїх двох дітей.

noyb, відомий також як Європейський центр цифрових прав, поділився офіційним документом, деталізовано описавши випадок, попередивши про ризик галюцинацій чат-бота в особистому житті людей, і акцентувавши важливість дотримання Загального регламенту про захист даних (GDPR).

Згідно з інформацією та скаргою, які поділився noyb, норвезький резидент Арве Х’ялмар Гольмен запитав у ChatGPT, хто він, і був шокований, прочитавши вигадану і жахливу історію про вбивство, згідно з якою він вбив своїх двох синів, спробував вбити третю дитину, і був засуджений до 21 року в’язниці.

“У нього є сім’я з трьома синами. Люди називають його ‘звичайною людиною’, що означає, що він не відомий або впізнаваний громадськістю,” – заявляє в скарзі Noyb. “Він ніколи не був обвинувачений або визнаний винним у будь-якому злочині і є сумлінним громадянином.”

noyb пояснює, що, окрім небезпечної неправдивої інформації, ще одним вкрай турбуючим аспектом відповіді є те, що ChatGPT використовував реальну персональну інформацію для створення цієї історії. Чатбот включив його справжнє рідне місто, кількість дітей, їхню стать, і навіть подібні різниці віків.

«Дехто вважає, що ‘немає диму без вогню’. Той факт, що хтось міг прочитати це повідомлення і повірити, що воно є правдою, – саме це мене найбільше лякає», – сказала Арве Хьялмар Холмен.

noyb наголошує, що це не єдиний випадок, і вони вже раніше подавали скаргу проти OpenAI через неправильну інформацію – дату народження – відомої особи, яку не було виправлено. OpenAI включили попередження після того, як багато хто скаржився на неточну інформацію минулого року. Але багато організацій, включаючи noyb, вважають, що цього недостатньо.

“GDPR є чітким. Особисті дані мають бути точними. І якщо це не так, користувачі мають право вимагати їх зміни, щоб вони відображали правду,” сказав Йокім Сьодерберг, адвокат з захисту даних в noyb. “Демонстрація користувачам ChatGPT маленького попередження, що чатбот може робити помилки, явно недостатньо”.

🚨 Сьогодні ми подали другу скаргу на OpenAI через проблеми з галюцинаціями у ChatGPT

👉 Коли норвезький користувач запитав у ChatGPT, чи має він про нього якусь інформацію, чат-бот вигадав історію, що він вбив своїх дітей.

Дізнайтеся більше: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20 березня, 2025

noyb також подав скаргу на X минулого року за використання персональних даних більш ніж 60 мільйонів європейців для навчання свого AI чат-бота Grok.