Ошибки нейросетей становятся все более серьезными и могут представлять угрозу для жизни и здоровья

29.07.2024

Нейросети уже прочно вошли в жизнь человека и могут быть полезны во многих сферах. Они помогают в работе, образовании, здравоохранении и развлечениях. Однако использование нейросетей также связано с определёнными рисками, такими как потеря рабочих мест, угроза приватности и безопасности данных, а также возможность создания автономных систем, которые могут противостоять человеческому контролю. Важно осознавать эти риски и учиться управлять ими. 

На самом деле, было бы не плохо, если бы в случае использования нейросетей для внесения изменений в фото-, видео- или аудиоматериалы пользователю контента было бы видно примечание, что материалы сгенерированы и недостоверно отображают реальность. Кстати, первый абзац этой статьи сгенерировала нейросеть. Как Вам?

Также важно разрабатывать механизмы законодательного регулирования применения нейросетей. Цель такого регулирования - не ограничить их использование, а сделать механизмы его применения прозрачными и не допускать их использования в незаконных целях или с риском для охраняемых законом ценностей. 

Тем более, что специалисты Центра цифровой экспертизы Роскачества сообщили, что фиксируют жалобы пользователей на серьезные ошибки нейросетей, которые могут представлять угрозу для жизни и здоровья. Например, чтобы предотвратить сползание начинки с пиццы, ИИ рекомендовал добавить в соус немного клея. Кроме того, нейросеть давала опасные советы при укусе ядовитой змеи, рекомендовала ежедневно употреблять небольшие камни, чтобы не было проблем с пищеварением и менять «жидкость для поворотников». Возможно, дело в том, что нейросеть генерирует ответы на основе поисковой выдачи и не проверяет достоверность информации, не может считать иронию и понять юмор.

Надо сказать, разработчики и платформы и сами уже начали внедрять превентивные меры, предупреждая пользователей, например, таким образом: «Алиса старается, но может ошибаться. Проверяйте важную информацию». 

Очевидно одно: по мере совершенствования нейросетей их ошибки могут становиться все более опасными. Любые данные, полученные с помощью ИИ, «следует рассматривать как непроверенный исходный материал» и проверять. 

Ассоциация Мясопереработчиков (АСОМП) всегда старается предупредить коллег и дать членам ассоциации передовую и актуальную информацию, проводит много мероприятий, в том числе, на тему применения нейросетей. Подготовили для Вас подборку полезных материалов по итогам проведенных вебинаров для знакомства с возможностями искусственного интеллекта и реальными кейсами его применения:

Маркетинговые задачи на пищевых предприятиях, для решения которых уже здесь и сейчас можно внедрять нейросети;

Инновации в разработке продуктов питания с ИИ: от концепции до потребителя. Часть 1;

Инновации в разработке продуктов питания с ИИ: от концепции до потребителя. Часть 2. Работающие промты;

Инновации в разработке продуктов питания с ИИ: от концепции до потребителя.

Если коротко, то нейросети используют уже не только для решения ежедневных задач генерации контента и создания картинок продукта для соц сетей. Оптимизация ассортимента, анализ данных по продажам, мониторинг конкурентов, создание новых вкусов, дизайна упаковки и проч. – вот до чего уже дошло дело. 

Если Вы еще не знакомы с возможностями нейросетей, или не знаете, с чего начать их внедрение на своем предприятии, Вы можете проконсультироваться со специалистом. Для членов Ассоциации Мясопереработчиков (АСОМП) доступна бесплатная консультация по внедрению нейросетей и применению ИИ в своих бизнес-процессах. Для записи направьте заявку в офис АСОМП в свободной форме по электронной почте info@asomp.ru

Ассоциация Мясопереработчиков (АСОМП) открыта к приему новых членов, приглашаем игроков мясной отрасли присоединиться и стать активным участником объединения, чтобы получать еще больше полезной информации и скидок и подарков от партнеров.

Подать заявку на вступление можно на сайте АСОМП или написав на почту info@asomp.ru.

#АссоциацияМясопереработчиковАСОМП #АссоциацияМясопереработчиков #АСОМП #АСОМП@asomp #asomp #ЛучкинаЕкатерина #ОбъединениеМясопереработчиковАСОМП  #ОбъединениеМясопереработчиков #ЛучкинаЕкатеринаАСОМП #ЛучкинаЕкатеринаМясопереработка #ЛучкинаЕкатеринаАссоциацияМясопереработчиков