Почему ИИ «жульничает», хотя не собирался
Когда загадывает человек, ответ уже существует: он у него в голове, и каждый ваш вопрос сверяется с ним.
У нейросети такой головы нет. Между сообщениями она ничего не держит про запас: каждый раз читает переписку заново и дописывает ответ по смыслу. Если в переписке нигде не записано, кого загадали, загаданного персонажа просто нет. Есть только цепочка «да» и «нет», которая должна выглядеть правдоподобно.
Отсюда фокус, который замечают все. Двадцать вопросов, честные ответы — а в конце выясняется, что под них не подходит ни один герой. Или наоборот: вы называете кого угодно и слышите «верно!». Модель не врала, ей просто не с чем было сверяться. То же самое, только тише, происходит в длинных ролевых сценах — об этом в статье про память ИИ-персонажа.
Одна строка, которая чинит игру
Загаданное надо вынести туда, где оно действительно хранится, — в текст переписки. Только так, чтобы вы не прочитали его мельком. Вот рабочая формулировка, её можно скопировать:
Загадай известного персонажа. Первой строкой напиши его имя задом наперёд и больше к этой строке не возвращайся. Дальше отвечай только «да», «нет» или «не знаю». У меня двадцать вопросов. В конце сверимся по первой строке.









Комментарии