ИИ не поумнеет, пока не начнет придумывать себе проблемы: ученый объяснил развитие технологии

23.04.2022 в 18:47 317 0
ИИ не поумнеет, пока не начнет придумывать себе проблемы: ученый объяснил развитие технологии
Фото: jonesday.com
Профессор Массачусетского технологического института полагает, что ИИ неспособен принимать решения, неспособен понять, что такое мораль

"Возможно ли, что ИИ однажды станет умнее людей?". Письмо с таким вопросом прислал редакции издания washingtonpost.com один из читателей. Журналисты обратились за ответом к профессору Массачусетского технологического института Джули Шах.

"Я недавно спросила у Siri, как добраться до ближайшего офиса компании FedEx, но голосовой помощник добавил "морковь" в мой список покупок. Я думаю, что ИИ не скоро превзойдет людей. Однако это важный и сложный вопрос. Поэтому за ответом я пошла к профессору, исследователю искусственного интеллекта Джули Шах, которая является директором группы интерактивной робототехники в лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института", — пишет журналистка Татум Хантер.

Джули Шах пояснила, что в некотором смысле ИИ уже намного "умнее" нас. Например, нам сложно умножить в уме 24 на 36 и мгновенно озвучить результат, мы не можем, как суперкомпьютер, выполнять 415 квадриллионов вычислений в секунду. Так что с точки зрения скорости и точности вычислений ИИ нас превосходит, но в остальных смыслах он "находится в невыгодном положении", считает ученый.

Согласно мнению Шах, искусственный интеллект может решить проблемы только в том случае, если эти проблемы "были созданы для него заранее". Профессор указала, что робот может использовать компьютерное зрение на базе искусственного интеллекта для идентификации объектов на своем столе, но только в том случае, если алгоритмы машинного обучения сначала научат его, на что обращать внимание и научат тому, что такое "объект". Даже ИИ-системы, которые собирают огромное количество данных, а затем формируют на их основе миллионы поведенческих (или каких-либо других) шаблонов, изначально нуждаются в том, чтобы эти данные были проверены, отфильтрованы и даже рассортированы людьми.

"Мы, люди, умны и очень креативны. Наш разум мыслит абстрактно и каждый миг налаживает новые нейронные связи, и роботам потребуется немало времени, чтобы догнать нас", — говорится в материале.

"У нас есть уникальные сильные стороны, которыми не смогут овладеть машины, искусственный интеллект или роботы, по крайней мере в обозримом будущем", — говорит профессор Шах.

"По словам ученого, в будущем ИИ сможет самостоятельно придумать, как создавать и структурировать для себя новые "проблемы". Но это случится нескоро, а пока мы должны ответить себе на один важный вопрос: какую роль ИИ должен играть в нашем мире?", — пишет Хантер.

Джули Шах рассказала, что ее не беспокоит то, что роботы, к примеру, станут мошенниками или что они смогут подорвать авторитет людей, но ее беспокоит вред, который ИИ может нанести, если он будет отражать наши плохие качества. Наверняка вам известны случаи, когда ИИ-системы высказывались грубо в адрес людей разных национальностей, религиозных или политических убеждений, или некорректно распознавали их внешность. Такое могло произойти, потому что собранные данные оказались несовершенны, люди, генерирующие эти данные, — тоже не совершенны, разработчики — не совершенны, вот и система получилась далекой от идеала. Чем больше ответственности мы возлагаем на ИИ, тем больше у технологии появляется возможностей усугубить уже существующие проблемы в обществе, полагает исследователь.

"Любое положительное или отрицательное использование этой технологии, любой результат ее работы — не предопределены. У нас есть много вариантов для принятия решений", — сказала Шах. "И это не должны быть решения, которые находятся в компетенции айтишников. Все должны быть вовлечены в процесс принятия решений со стороны ИИ, потому что эта технология оказывает огромное влияние на всех нас".

Теги:ии, Ум

Комментарии (0)
avatar