Люди рассказывали ChatGPT о страхах, Боге и разводах. Теперь на этом построят рекламу

Бывшая исследовательница OpenAI Зои Хитциг, два года помогавшая формировать ценообразование моделей и политики безопасности компании, уволилась в понедельник — в тот же день, когда OpenAI начала тестировать рекламу в ChatGPT для 800 млн еженедельных пользователей. В колонке для The New York Times она объяснила, почему считает этот шаг опасным: за годы работы сервиса пользователи создали "архив человеческой откровенности, не имеющий прецедента" — делились медицинскими страхами, проблемами в отношениях, размышлениями о Боге и загробной жизни. Люди доверялись, потому что считали: у собеседника нет скрытых мотивов.

Хитциг проводит прямую параллель с Facebook* (*Принадлежит Meta, признанной экстремистской организацией, деятельность которой запрещена в России). В первые годы соцсеть обещала контроль над данными и право голосовать за изменения политик. Потом под давлением рекламной модели обещания размылись: публичные голосования отменили, а настройки приватности, которые подавались как "больше контроля", по данным Федеральной торговой комиссии, на деле делали личную информацию публичной. По мнению Хитциг, эрозия принципов в OpenAI уже идет: модель оптимизируют мотивировать пользователей на ежедневную активность, делая ее более льстивой, — хотя собственные принципы компании запрещают оптимизацию вовлеченности ради рекламных доходов.

OpenAI обещает, что реклама будет маркирована, размещена внизу ответов и не повлияет на содержание. Хитциг допускает, что первая итерация действительно будет такой, — но предупреждает, что компания выстраивает экономический механизм, который создает сильные стимулы нарушить собственные правила. Реклама, построенная на личных данных, сохраненных в чатботе, открывает потенциал для манипуляций, которые "мы пока не можем ни понять, ни предотвратить". Среди последствий зависимости от ИИ она упоминает случаи "психоза от чатботов", в которых уже обвиняют ChatGPT.

При этом Хитциг не считает рекламу неизбежным злом и не призывает просто ее запретить. Проблему "или реклама, или дорогой доступ только для богатых" она называет ложной дилеммой — при том что топовые подписки ChatGPT, Gemini и Claude уже стоят $200–250 в месяц. Вместо этого она предлагает три альтернативы: перекрестное субсидирование, при котором бизнес-клиенты оплачивают бесплатный доступ для остальных (по модели телеком-операторов); реклама, но с независимым надзорным органом, наделенным обязывающими полномочиями; передача данных пользователей под управление независимого траста — как швейцарский кооператив MIDATA, где участники сами решают, кому и зачем передавать свои данные.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.