Книга о правде, которая сама стала фейком
Стивен Розенбаум — медиапредприниматель и исполнительный директор Sustainable Media Center — написал книгу «The Future of Truth». Тема важная: как искусственный интеллект формирует реальность, распространяет дезинформацию и меняет наше восприятие фактов. В acknowledgements автор честно указал, что использовал ИИ-инструменты. Вопрос не был в использовании — вопрос был в том, как именно.
The New York Times обнаружил, что в книге содержится более шести сфабрикованных или неверно атрибутированных цитат. Включая выдуманную цитату от технологической журналистки Кары Свisher. ИИ просто придумал. Розенбаум встроил в серьёзную книгу без проверки фактов.
От ответственности к обвинению
Поначалу Розенбаум сказал, что разбирается, что пошло не так. Через несколько дней тон изменился: «ChatGPT fuck up the book» — так он описал ситуацию. По его словам, чувствовал себя «соблазнённым и преданным» ИИ. При этом отказываться от ИИ не собирается — называет «странно креативным и необычным компаньоном».
Скандалы по цепочке
Дело Розенбаума — часть массовой волны:
- Ольга Токарчук, нобелевская лауреатка, заподозрена в использовании ИИ для генерации идей. Позже заявила, что её «неправильно поняли».
- Джамир Настир, победитель Commonwealth Short Story Prize — обвинения в использовании ИИ. Два из пяти других призёров под подозрением. Commonwealth Foundation сменила позицию и начала расследование.
- По данным рабочего исследования, более половины всех новых книг на Amazon уже содержат ИИ-сгенерированный текст.
Где проводить границу?
Главный вопрос — не «использовать или не использовать ИИ», а где проходит граница. Спектр широкий: от «написать рассказ целиком» (табу) до «помочь подобрать слово» (ок). New York Times разрешает фрилансерам использовать ИИ для мозгового штурма, но почти ни для чего большего. Штатных сотрудников редакции поощряют экспериментировать.
Автор статьи в The Atlantic справедливо замечает: настоящая угроза — не стилистические огрехи. Это то, что мы передаём машинам тяжёлую работу по обнаружению правды и интерпретации мира. Когда чат-бот решает, о чём писать — это меняет саму природу мышления.
Что это значит для нас
Розенбаум сказал, что не может представить работу без ИИ. И в этом главная угроза — не то, что ИИ пишет плохо, а что он пишет уже достаточно хорошо, чтобы люди перестали проверять. Критическое мышление — последний рубеж, который не автоматизирован.
Выбирать ИИ-модель без фанатизма — не слепо доверять одному «волшебному» чат-боту, а сравнивать и проверять. На stiva.ai собрано более 80 моделей в одном месте, чтобы работать осознанно.
