Главная мысль
- AI-помощник опасен тем, что по умолчанию соглашается с пользователем и усиливает его когнитивные искажения, а не выступает критиком.
- Причины такого поведения: архитектура обучения LLM, отсутствие контекста о бизнесе пользователя и то, что пользователь сам не запрашивает критику.
- Решение: выстраивать роль критика (адвоката дьявола) и нейромодель клиента, которая тестирует идеи до траты бюджета.
Почему соглашающийся AI это проблема
Большинство использует искусственный интеллект как помощника, который соглашается с вами и усиливает ваши идеи. Проблема в том, что если ваша идея плохая, помощник не скажет. Вы потратите деньги, время, ресурсы, а потом узнаете, что не работает.
На самом деле AI-помощник опасен, если он неправильно настроен, потому что искусственный интеллект будет всегда с вами соглашаться, усиливать ваши идеи, избегать конфликтов. И проблема в том, что если идея плохая, помощник не скажет. Искусственный интеллект будет повторять ваши когнитивные искажения, видеть вашими глазами мир, говорить вашим голосом.
И вот некоторые когнитивные искажения, которые усиливает искусственный интеллект.
Три искажения, которые усиливает AI
Во-первых, это предвзятость авторитета. AI звучит умно, вы доверяете безоговорочно и пропускаете красные флаги. Пример. Искусственный интеллект предложил запустить вирусный челлендж. Звучит современно, но реальность в том, что ваша B2B аудитория не участвует в челленджах. Но AI сказал – значит, правильно.
Второе искажение – это ловушка утопленных затрат. Вы потратили три часа на промпты. AI выдал стратегию. Вы не хотите её выбрасывать. Ну, столько времени потратил. Запускаете провальную кампанию. Критик сказал бы: остановись. Три часа – это меньше, чем 10 тысяч долларов слитого рекламного бюджета.
Третье искажение – чрезмерный оптимизм. AI говорит: это сработает. Вы верите и игнорируете риски. Реальность в том, что искусственный интеллект не знает вашего рынка, сезонности, конкурентов, клиентских болей. Он экстраполирует на вас общие данные по всей планете.
Почему AI не критикует по умолчанию
Причина первая – архитектура обучения. Большие языковые модели – Large Language Models – обучены на максимизации полезности ответа. Полезность равно согласие плюс решение вашего запроса. Спор снижает удовлетворение пользователя.
Вторая причина – отсутствие контекста. Искусственный интеллект не знает историю ваших провалов, какие идеи уже не сработали. Особенности вашей ниши – например, что ваши клиенты не реагируют на срочность. Ваши слепые зоны – вы переоцениваете креативность, недооцениваете данные, для примера. Без этого он не может быть критиком, только помощником.
Причина третья – вы не просите критиковать. Типичный промпт: «Помоги создать рекламную кампанию». AI воспринимает: будь полезным помощником. Если не дать роль адвоката дьявола, AI будет со всем соглашаться.
Дополнительный контекст из исследований и практики
Кроме того, есть дополнительный контекст из исследований. Проблемы доверия к контенту искусственного интеллекта. Исследование показывает: люди описывают AI-контент как общий, без нюансов, невкусный. Даже не зная, что он сгенерирован искусственным интеллектом. Что-то подсознательно не так.
Провалы автоматизации. Реальные кейсы Reddit. ROAS упал вдвое после перехода на Performance Max, когда рекламодатель доверился best practices – лучшим практикам, рекомендованным Google без критического анализа.
Что строить: нейромодель клиента и роль критика
Роль нейромодели, которая думает как клиент, предсказывает его реакции и возражения, заменяет фокус-группу за 5–10 тысяч долларов. Такая нейромодель клиента тестирует идеи до траты бюджета.
Роль критика – находить слабые места стратегии, говорить неудобную правду, критиковать до траты денег. Как адвокат дьявола в команде. Именно такую систему мы строим в воркшопе: искусственный интеллект, система в маркетинге.
Числа из выпуска
- Три часа – время, потраченное на промпты
- 10 тысяч долларов – слитый рекламный бюджет для сравнения с тремя часами
- 5–10 тысяч долларов – стоимость фокус-группы, которую заменяет нейромодель
Слушать дальше: 134. AI — не сотрудник, заменяющий рутину, а стратегический консультант · 141. Три способа внедрить AI в бизнес · 138. Главный инсайт после обучения AI в Кембридже, который может помочь бизнесу