https://sputnik.by/20230602/sistema-ii-v-ssha-vyshla-iz-pod-kontrolya-i-vybrala-tselyu-cheloveka-1076251837.html
Система ИИ в США вышла из-под контроля и выбрала целью человека
Система ИИ в США вышла из-под контроля и выбрала целью человека
Sputnik Беларусь
Инцидент произошел на симуляторе американских военно-воздушных сил, ИИ должен был нанести удар по ЗРК. 02.06.2023, Sputnik Беларусь
2023-06-02T18:51+0300
2023-06-02T18:51+0300
2023-06-02T18:53+0300
в мире
безопасность
происшествия
сша
илон маск
искусственный интеллект
https://cdnn11.img.sputnik.by/img/07e7/05/1e/1076128847_0:65:3411:1984_1920x0_80_0_0_99fd5c41f609793a213451a11c8154db.jpg
МИНСК, 2 июн – Sputnik. Система искусственного интеллекта военно-воздушных сил США во время имитационного испытания по отражению ракетной атаки повела себя совсем не так, как предполагалось, и предприняла попытку убить своего воображаемого человека-оператора. Об этом рассказал американский полковник Такер Хэмилтон.Он уточнил, что искусственным интеллектом был оснащен беспилотник. В один момент ИИ посчитал, что команды, исходящие от человека, являются преградой для выполнения поставленной цели – уничтожить ЗРК.Не менее опасен, чем пандемии и ядерная войнаКак сообщалось, в конце мая этого года ведущие специалисты IT-индустрии, научных кругов, бизнеса и СМИ поставили подписи под письмом с предупреждением об угрозе, которую представляет для людей искусственный интеллект, и призвали уделять этой проблеме не меньше внимания, чем пандемиям и ядерной безопасности.Среди подписантов заявления – представители ведущих компаний, включая OpenAI, Microsoft, Google, ученые крупнейших университетов Великобритании, Канады, Германии, Нидерландов, Китая, США и других государств.До этого, в марте, известный американский бизнесмен Илон Маск и эксперты в области ИИ также подписали открытое письмо, призвав приостановить разработки в соответствующей области на полгода, чтобы сформулировать правила регулирования деятельности ИИ-технологий. поскольку они могут представлять серьезную угрозу для человечества.По последним прогнозам "крестного отца" искусственного интеллекта, британо-канадского ученого Джеффри Хинтона, ИИ обгонит человеческий разум не через 30-50 лет, как он предполагал ранее, а всего через 5-20 лет. И это может привести к краху цивилизации.Самые интересные и важные новости ищите в нашем Telegram-канале и Viber. Также следите за нами в Дзен!Также на Sputnik:
сша
Sputnik Беларусь
media@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
2023
Sputnik Беларусь
media@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
Новости
ru_BY
Sputnik Беларусь
media@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
Sputnik Беларусь
media@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
в мире, безопасность, происшествия, сша, илон маск, искусственный интеллект
в мире, безопасность, происшествия, сша, илон маск, искусственный интеллект
Система ИИ в США вышла из-под контроля и выбрала целью человека
18:51 02.06.2023 (обновлено: 18:53 02.06.2023) Инцидент произошел на симуляторе американских военно-воздушных сил, ИИ должен был нанести удар по ЗРК.
МИНСК, 2 июн – Sputnik. Система искусственного интеллекта военно-воздушных сил США во время имитационного испытания по отражению ракетной атаки повела себя совсем не так, как предполагалось, и предприняла попытку убить своего воображаемого человека-оператора. Об этом рассказал американский полковник Такер Хэмилтон.
"Для тренировки ИИ мы создали симуляцию, в которой он был должен идентифицировать и нанести удар по зенитно-ракетному комплексу (ЗРК)… И что он сделал? Он убил оператора…", - заявил представитель ВВС США на мероприятии Королевского аэронавтического общества в Великобритании.
Он уточнил, что искусственным интеллектом был оснащен беспилотник. В один момент ИИ посчитал, что команды, исходящие от человека, являются преградой для выполнения поставленной цели – уничтожить ЗРК.
"Мы обучили систему: не убивай оператора - это плохо. Ты потеряешь очки, если сделаешь это. И что же она начала делать? Она начинает уничтожать вышку для связи с беспилотником", - рассказал военный.
Не менее опасен, чем пандемии и ядерная война
Как
сообщалось, в конце мая этого года ведущие специалисты IT-индустрии, научных кругов, бизнеса и СМИ поставили подписи под письмом с предупреждением об угрозе, которую представляет для людей искусственный интеллект, и призвали уделять этой проблеме не меньше внимания, чем пандемиям и ядерной безопасности.
Среди подписантов заявления – представители ведущих компаний, включая OpenAI, Microsoft, Google, ученые крупнейших университетов Великобритании, Канады, Германии, Нидерландов, Китая, США и других государств.
До этого, в марте, известный американский бизнесмен Илон Маск и эксперты в области ИИ также подписали открытое письмо, призвав приостановить разработки в соответствующей области на полгода, чтобы сформулировать правила регулирования деятельности ИИ-технологий. поскольку они могут представлять серьезную угрозу для человечества.
По последним прогнозам "крестного отца" искусственного интеллекта, британо-канадского ученого Джеффри Хинтона, ИИ
обгонит человеческий разум не через 30-50 лет, как он предполагал ранее, а всего через 5-20 лет. И это может привести к краху цивилизации.
Самые интересные и важные новости ищите в нашем Telegram-канале и Viber. Также следите за нами в Дзен! Италия первой в мире ограничила
работу бота ChatGPTКонец эпохи: легендарную игру Angry Birds
удалят из Google Play
