Проблемы ИИ

Created on 7 August, 2023 | 409 views

Сегодня главная проблема, с которой сталкиваются пользователи нейросети — это распространение дезинформации, порождаемой искусственным интеллектом.

В чем суть?

Проблема "галлюцинаций" искусственного интеллекта заключается в том, что модели ИИ, иногда генерируют вымышленную информацию, представляя ее как факты и даже самые передовые модели искусственного интеллекта склонны к созданию ложной информации, особенно в ситуациях неопределенности.

Есть решение

Поэтому разработали новую стратегию для борьбы с "галлюцинациями" искусственного интеллекта, основанную на обучении моделей награждать себя за правильные шаги рассуждений, а не только за правильные окончательные выводы. Этот подход, называемый "контроль процесса", согласно исследователям, может привести к созданию более логичных моделей искусственного интеллекта, поскольку он стимулирует их следовать "цепочке мыслей", аналогичной человеческой.

Тем не менее, некоторые эксперты выразили сомнения в этом исследовании. Бен Уинтерс, старший советник Информационного центра по электронной конфиденциальности и руководитель проекта "Искусственный интеллект и права человека", заявил о необходимости изучить полный набор данных и соответствующие примеры. Сара Майерс Вест, исполнительный директор Института AI Now, отметила, что в ИИ не предоставляют полную информацию о данных, использованных для обучения и тестирования, что затруднит обеспечение прозрачности в области искусственного интеллекта.