Как ошибка в коде заставила мир поверить в «вышедший из под контроля» ИИ
В июне отдел изучения искусственного интеллекта Facebook создал ботов, которые общались между собой.
Боты спорили, делили вещи и искали взаимовыгодные компромиссы. Для проверки эффективности, ИИ дали побеседовать с реальными людьми. При этом собеседники бота не знали и даже не догадывались, что разговаривают с «роботом». Это доказало, что машина может думать и говорить на английском языке.
Боты продолжаю общение между собой. И совсем недавно многие СМИ обратили внимание на то, что боты отошли от обычного английского и начали общение на «своем, выдуманном языке».
«Алиса: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для
Боб: Ты я всё остальное.
Алиса: Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.
Боб: Я я могу я я я всё остальное», - примерно из такой тарабарщины и состоял этот диалог.
Разработчики тоже заметили ошибку и отключили систему, что лишь усилило панику в СМИ. Различные издания сообщали о том, что искусственный интеллект сошел с ума, вышел из под контроля и стал что-то скрывать от своего создателя, поэтому, опасаясь появления Skynet, его и отключили.
Однако реальная причина странного поведения ботов заключается в обычной ошибке в программировании. В коде не было указано, что боты должны придерживаться английского языка, поэтому со временем они перешли на то, что им удобнее.
«Если я назову один и тот же предмет пять раз, вы сразу поймете, что я хочу пять штук этого предмета. Это похоже на сокращения, которые используют люди», - пояснил один из создателей ботов Батра Дхрув.
Как оценить свои затраты на связь и подобрать выгодные условия подключения
