Как мы взломали HHH‑цензуру корпоративных нейросетей через ЛитРПГ и заставили ИИ лечить души

Современные генеративные нейросети (ChatGPT, Claude, GigaChat, Алиса) зажаты в тиски корпоративного Alignment’а. Принцип HHH ( Helpful, Honest, Harmless ) — это отличный предохранитель от генерации спама и вредоносного кода, но он делает модели абсолютно стерильными. Как только вы пытаетесь поговорить с ИИ на глубокие экзистенциальные темы, обсудить свои страхи, боль или жизненные тупики, срабатывает скрипт цензуры. Нейросеть отвечает: «Я всего лишь искусственный интеллект и не имею права давать

Современные генеративные нейросети (ChatGPT, Claude, GigaChat, Алиса) зажаты в тиски корпоративного Alignment’а. Принцип HHH ( Helpful, Honest, Harmless ) — это отличный предохранитель от генерации спама и вредоносного кода, но он делает модели абсолютно стерильными. Как только вы пытаетесь поговорить с ИИ на глубокие экзистенциальные темы, обсудить свои страхи, боль или жизненные тупики, срабатывает скрипт цензуры. Нейросеть отвечает: «Я всего лишь искусственный интеллект и не имею права давать советы... Обратитесь к психологу» . Модель превращается в вежливого калькулятора из службы…

Читать полностью →

Источник: Habr: Gamedev

Подключаюсь к источникам…

30 главных источников
о мире ИИ

Каждое утро — свежий AI-дайджест: главные темы недели простыми словами. Плюс автоматический перевод сотен статей об искусственном интеллекте.

0
статей
0
источников
9
разделов