Создатель базы для ИИ заявил об опасности этих технологий

МИНСК, 2 мая – Sputnik. Создатель нейросети, которая легла в основу программ искусственного интеллекта (ИИ), Джеффри Хинтон рассказал о том, что эта технология несет значительную опасность обществу. Об этом сообщило издание "Нью-Йорк таймс".

Хинтон объявил о своем уходе с должности в Google, где он работал на протяжении более 10 лет и стал одним из наиболее авторитетных экспертов в ИТ-отрасли. По его словам, данное решение было принято им для того, чтобы иметь возможность свободно высказываться об угрозах, связанных с искусственным интеллектом.

"Сложно представить, как можно предотвратить использование (технологий ИИ – Sputnik) пользователями для плохих целей. Сравните, как мы жили 5 лет назад и как живем сейчас, спроецируйте разницу на будущее. Это страшно", – цитирует Хинтона издание.

По словам ученого, который разрабатывал алгоритмы машинного обучения в компании, он испытывает некоторые сожаления относительно своих изобретений. Как отмечается в газете, эксперты по новым технологиям высказывают опасения об угрозах, таких как замещение ИИ людей в некоторых отраслях, распространение недостоверной информации.

Ранее письмо о необходимости временно прекратить разработку систем искусственного интеллекта, которые по мощности превосходят существующую GPT-4, подписали Владелец Twitter, SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк и ряд других деятелей в сфере технологий.

Авторы письма выразили обеспокоенность тем, что на данном этапе стремительного развития технологий ИИ нет ресурсов, которые позволили бы в полной мере понять, предсказать или надежно контролировать эти системы. Отдельные современные разработки способны соревноваться в базовых задачах с людьми, что может привести к тому, что однажды системы полностью заменят человеческий ресурс.

В связи с этим, по мнению авторов письма, мощные системы искусственного интеллекта можно будет разрабатывать только после того, как общество будет уверено в их пользе и разработает механизм, позволяющий контролировать все риски.