МИНСК, 2 июн – Sputnik. Система искусственного интеллекта военно-воздушных сил США во время имитационного испытания по отражению ракетной атаки повела себя совсем не так, как предполагалось, и предприняла попытку убить своего воображаемого человека-оператора. Об этом рассказал американский полковник Такер Хэмилтон.
"Для тренировки ИИ мы создали симуляцию, в которой он был должен идентифицировать и нанести удар по зенитно-ракетному комплексу (ЗРК)… И что он сделал? Он убил оператора…", - заявил представитель ВВС США на мероприятии Королевского аэронавтического общества в Великобритании.
Он уточнил, что искусственным интеллектом был оснащен беспилотник. В один момент ИИ посчитал, что команды, исходящие от человека, являются преградой для выполнения поставленной цели – уничтожить ЗРК.
"Мы обучили систему: не убивай оператора - это плохо. Ты потеряешь очки, если сделаешь это. И что же она начала делать? Она начинает уничтожать вышку для связи с беспилотником", - рассказал военный.
Не менее опасен, чем пандемии и ядерная война
Как сообщалось, в конце мая этого года ведущие специалисты IT-индустрии, научных кругов, бизнеса и СМИ поставили подписи под письмом с предупреждением об угрозе, которую представляет для людей искусственный интеллект, и призвали уделять этой проблеме не меньше внимания, чем пандемиям и ядерной безопасности.
Среди подписантов заявления – представители ведущих компаний, включая OpenAI, Microsoft, Google, ученые крупнейших университетов Великобритании, Канады, Германии, Нидерландов, Китая, США и других государств.
До этого, в марте, известный американский бизнесмен Илон Маск и эксперты в области ИИ также подписали открытое письмо, призвав приостановить разработки в соответствующей области на полгода, чтобы сформулировать правила регулирования деятельности ИИ-технологий. поскольку они могут представлять серьезную угрозу для человечества.
По последним прогнозам "крестного отца" искусственного интеллекта, британо-канадского ученого Джеффри Хинтона, ИИ обгонит человеческий разум не через 30-50 лет, как он предполагал ранее, а всего через 5-20 лет. И это может привести к краху цивилизации.
Самые интересные и важные новости ищите в нашем Telegram-канале и Viber. Также следите за нами в Дзен!
Также на Sputnik:
ООН предлагает ввести мораторий на использование искусственного интеллекта
Италия первой в мире ограничила работу бота ChatGPT
Конец эпохи: легендарную игру Angry Birds удалят из Google Play