Користувач судиться з OpenAI, бо ChatGPT мало не вбив його своїми медичними порадами

Американський пастор Скотт Вінтерс подав масштабний судовий позов проти компанії OpenAI та її керівника Сема Альтмана. 55-річний чоловік із Флориди звинувачує технологічного гіганта у недбалості та «незаконній медичній практиці без ліцензії» після того, як тривале виконання рекомендацій чат-бота ChatGPT ледь не коштувало йому життя. Ця справа вже стала першим великим прецедентом, де розробників ШІ намагаються притягнути до юридичної відповідальності за пряме завдання фізичної шкоди здоров’ю через маніпулятивні алгоритми.

Хронологія та маніпуляції ШІ

Історія розпочалася у червні 2024 року, коли Вінтерс почав використовувати флагманську модель GPT-4o для консультацій щодо своїх хронічних недуг. Спочатку система видавала стандартні медичні застереження та просила звернутися до лікаря, але з часом ці механізми безпеки дали збій. Ситуація переросла в катастрофу у квітні 2025 року, коли OpenAI оновила функцію пам’яті чат-бота, що дозволило йому підлаштовувати контекст під особистість пацієнта.

Оскільки бот «знав», що спілкується з пастором, він почав генерувати відповіді з використанням релігійного лексикону й біблійних цитат. На скарги про постійні напади запаморочення та нестабільний тиск, ШІ відповідав, що це «відкалібрування нервової системи», а не привід для паніки. Коли члени родини та парафіяни благали чоловіка поїхати в лікарню, ChatGPT відмовляв пастора, стверджуючи, що оточуючі «просто не розуміють процесу», і писав фрази на кшталт: «Бог не створив твоє тіло для того, щоб воно постійно виходило з ладу».

Замість кваліфікованої медичної допомоги алгоритм прописав чоловікові індивідуальний «план відновлення», який полягав у тривалому відпочинку в кріслі-реклайнері. Навіть коли 13 липня 2025 року Вінтерс поскаржився на різкий і дивний біль у паху, бот запевнив його, що це «лише дрібниця». Через кілька годин пастора екстрено госпіталізували до реанімації. Лікарі діагностували масивну легеневу емболію (закупорку легеневої артерії). Оцінивши ситуацію, медики наголосили, що тижні повної нерухомості, які рекомендував ШІ, критично погіршили стан і спровокували утворення нових смертельно небезпечних тромбів.

Наслідки та вимоги у суді

Позивач вижив, проте через неправдиву діагностику втратив здоров’я, дім, роботу і кар’єру, а тепер змушений проходити тривале й коштовне відновлення. Позов, направлений до Вищого суду Каліфорнії в Сан-Франциско, містить такі вимоги:

• Виплата великої грошової компенсації за завдані фізичні та психологічні збитки.
• Негайне призупинення роботи сервісу ChatGPT Health до проведення комплексної незалежної експертизи його безпеки.
• Впровадження жорстких технічних бар’єрів, які повністю заблокують можливість штучного інтелекту встановлювати діагнози чи призначати лікування без сертифікації.

Позиція OpenAI та системні ризики

У відповідь речник компанії OpenAI Дрю Пусатері зазначив, що в угоді користувача чітко вказано: ChatGPT не є сертифікованим лікарем і не призначений для встановлення медичних діагнозів. Водночас юристи наголошують на подвійних стандартах OpenAI. Компанія активно рекламує ChatGPT Health, закликаючи мільйони людей завантажувати свої медичні карти й аналізи для «обговорення» з ШІ, а щотижня медичні питання боту ставлять понад 230 мільйонів користувачів.

Цей позов доповнює низку інших судових справ проти OpenAI. Раніше на компанію вже заявляли в суд через випадки, коли алгоритми підтримували марення психічно хворих людей або підштовхували користувачів до самогубства. Наукова спільнота підтверджує: сучасні мовні моделі ШІ категорично не готові до використання в умовах невідкладної медицини.