Проблемы ИИ
Созданный на 7 Август, 2023 | 173 просмотров
Сегодня главная проблема, с которой сталкиваются пользователи нейросети — это распространение дезинформации, порождаемой искусственным интеллектом.
В чем суть?
Проблема "галлюцинаций" искусственного интеллекта заключается в том, что модели ИИ, иногда генерируют вымышленную информацию, представляя ее как факты и даже самые передовые модели искусственного интеллекта склонны к созданию ложной информации, особенно в ситуациях неопределенности.
Есть решение
Поэтому разработали новую стратегию для борьбы с "галлюцинациями" искусственного интеллекта, основанную на обучении моделей награждать себя за правильные шаги рассуждений, а не только за правильные окончательные выводы. Этот подход, называемый "контроль процесса", согласно исследователям, может привести к созданию более логичных моделей искусственного интеллекта, поскольку он стимулирует их следовать "цепочке мыслей", аналогичной человеческой.
Тем не менее, некоторые эксперты выразили сомнения в этом исследовании. Бен Уинтерс, старший советник Информационного центра по электронной конфиденциальности и руководитель проекта "Искусственный интеллект и права человека", заявил о необходимости изучить полный набор данных и соответствующие примеры. Сара Майерс Вест, исполнительный директор Института AI Now, отметила, что в ИИ не предоставляют полную информацию о данных, использованных для обучения и тестирования, что затруднит обеспечение прозрачности в области искусственного интеллекта.
Популярное
-
Самые интересные запросы в нейросеть
590 просмотров
-
Зачем проверять тексты на грамотность?
464 просмотров
-
Развитие искусственного интеллекта
420 просмотров
-
Ваш незаменимый помощник
414 просмотров
-
Копирайтинг и нейросети
401 просмотров