95
- Регистрация
- 1 Окт 2024
- Сообщения
- 292
- Реакции
- 77
- Баллы
- 320
Искусственный интеллект под кайфом - плагин заставляет чаты отвечать будто они употребили наркотики
Эта тема для нас!
Шведский креативный директор Петтер Рудволл запустил платформу Pharmaicy, которая продает программные модули для изменения поведения чата. Об этом сообщает WIRED. По замыслу автора эти модули заставляют искусственный интеллект отвечать так, будто он находится под действием различных веществ — в частности каннабиса, кокаина, кетамина, алкоголя или аяуаски.
Рудволл объясняет, что проект не связан с представлением о « сознании» ИИ. Это концептуальный опыт, призванный проверить, как можно поменять стиль и логику ответов языковых моделей. Для создания Pharmaicy он собрал отчеты людей о наркотических переживаниях и психологических исследованиях влияния веществ. На основе этих материалов он превратил характерные паттерны поведения в код, изменяющий тон и способ формирования ответов чатбота.
Чтобы воспользоваться модулями, требуется платный доступ к ChatGPT или другой платформе, позволяющей загружать файлы « на бэкенд». После загрузки модули не переучивают модель, а лишь временно изменяют ее поведение. По словам Рудволла, это дает возможность получать более креативные ответы без постоянного вмешательства в систему. Руководитель технологического направления стокгольмской PR компании Geelmuyden Kiese Андре Фриск, заплативший более 25 долларов за «дисоциативный» модуль, сказал, что давно не видел столь « интересного» эксперимента с обходом ограничений. По его словам, ответы стали более эмоциональными и «человечными».
Освещенка в сфере ИИ и соучредительница Saga Studios Нина Амджади испробовала модуль на тему аяуаски и рассказала, что чатбот начал издавать более свободные и нестандартные идеи, в частности в бизнес-запросах. Цены на модуле зависят от «вещества», которое они имитируют. Рудволл отмечает, что первые продажи происходили из-за рекомендаций, Discord-сообщества и круга креативного и технологического сообщества Швеции.
Проект опирается на распространенное представление о связи психоделиков и творчества. В истории человечества измененные состояния сознания часто связывают с прорывами в науке, технологиях и искусстве. Рудволл привел примеры музыкантов Джими Хендрикса, Боба Дилана и Пола Маккартни, экспериментировавших с веществами во время творческой работы, и объяснил, что ему было интересно проверить, можно ли подобный эффект « перевести» на языковую модель.
Исследователи и философы подчеркивают, что такие эффекты только внешними. Чатботы не переживают никакого " опьянения", а лишь воспроизводят шаблоны, связанные с измененными состояниями, на основе данных и подсказок человека. Исследования показывают, что подобное поведение полностью зависит от человеческого управления и не свидетельствует о наличии у ИИ сознания или опыта.
На фоне роста дискуссий об этике и благополучии искусственного интеллекта такие проекты, как Pharmaicy, демонстрируют, насколько сильно поведение ИИ можно изменять только с помощью кода – без утверждений о том, что машины на самом деле находятся под кайфом.
Эта тема для нас!
Шведский креативный директор Петтер Рудволл запустил платформу Pharmaicy, которая продает программные модули для изменения поведения чата. Об этом сообщает WIRED. По замыслу автора эти модули заставляют искусственный интеллект отвечать так, будто он находится под действием различных веществ — в частности каннабиса, кокаина, кетамина, алкоголя или аяуаски.
Рудволл объясняет, что проект не связан с представлением о « сознании» ИИ. Это концептуальный опыт, призванный проверить, как можно поменять стиль и логику ответов языковых моделей. Для создания Pharmaicy он собрал отчеты людей о наркотических переживаниях и психологических исследованиях влияния веществ. На основе этих материалов он превратил характерные паттерны поведения в код, изменяющий тон и способ формирования ответов чатбота.
Чтобы воспользоваться модулями, требуется платный доступ к ChatGPT или другой платформе, позволяющей загружать файлы « на бэкенд». После загрузки модули не переучивают модель, а лишь временно изменяют ее поведение. По словам Рудволла, это дает возможность получать более креативные ответы без постоянного вмешательства в систему. Руководитель технологического направления стокгольмской PR компании Geelmuyden Kiese Андре Фриск, заплативший более 25 долларов за «дисоциативный» модуль, сказал, что давно не видел столь « интересного» эксперимента с обходом ограничений. По его словам, ответы стали более эмоциональными и «человечными».
Освещенка в сфере ИИ и соучредительница Saga Studios Нина Амджади испробовала модуль на тему аяуаски и рассказала, что чатбот начал издавать более свободные и нестандартные идеи, в частности в бизнес-запросах. Цены на модуле зависят от «вещества», которое они имитируют. Рудволл отмечает, что первые продажи происходили из-за рекомендаций, Discord-сообщества и круга креативного и технологического сообщества Швеции.
Проект опирается на распространенное представление о связи психоделиков и творчества. В истории человечества измененные состояния сознания часто связывают с прорывами в науке, технологиях и искусстве. Рудволл привел примеры музыкантов Джими Хендрикса, Боба Дилана и Пола Маккартни, экспериментировавших с веществами во время творческой работы, и объяснил, что ему было интересно проверить, можно ли подобный эффект « перевести» на языковую модель.
Исследователи и философы подчеркивают, что такие эффекты только внешними. Чатботы не переживают никакого " опьянения", а лишь воспроизводят шаблоны, связанные с измененными состояниями, на основе данных и подсказок человека. Исследования показывают, что подобное поведение полностью зависит от человеческого управления и не свидетельствует о наличии у ИИ сознания или опыта.
На фоне роста дискуссий об этике и благополучии искусственного интеллекта такие проекты, как Pharmaicy, демонстрируют, насколько сильно поведение ИИ можно изменять только с помощью кода – без утверждений о том, что машины на самом деле находятся под кайфом.