STIVA

Автор написал книгу об опасности ИИ, а ИИ сам её развалил изнутри

Steven Rosenbaum написал «Будущее правды» с помощью Claude — и попал в ловушку своих же тезисов

0 просмотров~3 мин чтения
Книга 'Будущее правды' на тёмном столе, разрушающаяся на цифровые частицы с неоновым свечением
Книга 'Будущее правды' на тёмном столе, разрушающаяся на цифровые частицы с неоновым свечением

Книга о правде, написанная с помощью ИИ, и правды в ней не оказалось

В мае 2026 года литературный мир взорвался историей, которую сложно придумать. Стивен Розенбаум — медиапредприниматель и директор Центра устойчивых медиа — выпустил книгу «The Future of Truth» (Будущее правды). Заявленная тема: как искусственный интеллект угрожает самому понятию истины, манипулирует восприятием реальности и создаёт «потенциально катастрофическую роботизированную уверенность» в фейках.

The New York Times первым заметил проблему: в книге обнаружилось более шести ложных или неверно приписанных цитат. Включая несуществующую цитату журналиста Кары Свиджер. Все их Розенбаум сгенерировал с помощью Claude и ChatGPT, используя модели для исследования и написания. Открывал он об этом в благодарностях книги.

От ответа к обвинению: «ChatGPT испортил мою книгу»

Сначала Розенбаум сказал, что берёт на себя полную ответственность. Но уже через несколько дней его тон изменился. В интервью The Atlantic он заявил: «ChatGPT fucked up the book». По его словам, ИИ его «сбил с толку и предал». Розенбаум описал свои отношения с чатботами как токсичные: «В зависимости от уровня паранойи, это либо причудливо, либо злобно, либо коварно».

Он по-прежнему планирует использовать ИИ в письме и называет его «очаровательным собеседником». Тут, как говорится, без комментариев — но именно эта двойственность стала сутью скандала.

Не один Розенбаум: литературные премий под ударом

На фоне этой истории разразилась череда скандалов в литературной среде:

  • Литературная Нобелевская лауреатка Ольга Токарчук якобы использовала ИИ для шлифовки идей рассказа (позже заявила, что её неверно поняли).
  • Тринидадский автор Джамир Назир получил Commonwealth Short Story Prize за рассказ, написанный с помощью ИИ.
  • Два из пяти оставшихся лауреатов оказались под аналогичным подозрением.
  • Commonwealth Foundation, сначала отвергнувшая обвинения, пересматривает итоги конкурса.

Исследование показало: более 50 % новых книг на Amazon уже содержат текст, сгенерированный ИИ. Это не новость — но когда ИИ-тексты начинают выигрывать литературные премии, вопрос переходит из теоретического в практический.

Где граница допустимого?

Проблема сложнее, чем кажется. Использование ИИ — не бинарное. Вот спектр:

  • Минимум: попросить ИИ подобрать синоним — как умный тезаурус. Большинство это не считает проблемой.
  • Середина: транскрибация интервью, проверка фактов, генерация черновиков. Уже серая зона.
  • Максимум: написать «Создай рассказ на 3000 слов о Тринидаде» и опубликовать под своим именем. Однозначно неприемлемо.

The Atlantic описывает собственную практику: журналисты иногда используют чатботы как «умный тезаурус», а для транскрипции интервью берут ИИ-сервисы с двойной проверкой. Авторы NYT могут использовать ИИ только для «высокоуровневого мозгового штурма». Авторы Guild (профсоюз писателей) предупреждают об этических рисках, но не запрещают.

Мнение редакции STIVA.ai: почему это важно для всех

Мы создаём платформу, где десятки ИИ-моделей доступны каждому — от текстов до изображений и видео. Мы не призываем отказаться от ИИ. Наоборот: мы за то, чтобы эти инструменты были в руках людей, которые понимают их ограничения.

Скандал с Розенбаумом — не аргумент «против ИИ». Это аргумент за ответственное использование. Модель не знает, что такое правда. Она генерирует правдоподобные тексты. Фактчекинг и верификация — задача человека, точка.

Парадоксально, но скандал стал лучшим подтверждением тезисов самой книги. Розенбаум предостерегал о том, как ИИ размывает правду. И сам попал в ту же ловушку.

Вывод

Граница между «помощником» и «соавтором» стирается. Индустрия ещё не выработала единых стандартов, но потребность в них очевидна. Инструменты ИИ становятся доступнее — и качественнее. Вопрос не в том, использовать их или нет. Вопрос — как использовать ответственно.

Тех, кто пишет книги о доверии и правде с помощью Claude, ждёт судьба Розенбаума. Тех, кто честно признаёт ограничения ИИ и перепроверяет каждый факт — ждёт уважение аудитории. Выбор за нами.

Читайте также