Глава Nvidia оценил вероятность гибели человечества из-за ИИ к 2030 году
Глава Nvidia Дженсен Хуанг прокомментировал самые мрачные прогнозы относительно стремительного развития искусственного интеллекта. По его заверениям, вероятность наступления глобальной катастрофы из-за ИИ к 2030 году "равна нулю".
В интервью CBS Хуанг заявил, что разговоры о "конце света" только сеют страх в обществе и, вероятно, служат чьим-то интересам — будь то политический расчет или стремление оказаться в центре внимания. Пугать людей такими прогнозами без достаточных оснований безответственно.
Поводом для дискуссии стали заявления бывшего исследователя Anthropic Джейкоба Коксона. Ранее он говорил, что некоторые специалисты в сфере ИИ всерьез допускают сценарий, при котором искусственный интеллект способен уничтожить человечество к концу десятилетия. Разработчики спешат сделать самоулучшающийся сверхинтеллект, но при не задумываются над тем, как его контролировать в будущем.
Чтобы избежать этого, предлагается замедлить темп разработки и скоординировать действия ИИ-компаний и государств по всему миру, а также внедрить проверку безопасности со стороны сторонних экспертов. Идею уже поддержали глава OpenAI Сэм Альтман и Илон Маск.
В то же время Дженсен Хуанг делает акцент не просто на отсутствии апокалипсиса, а на наступлении того, что он называет "золотым веком ИИ". Он рассматривает искусственный интеллект как следующий крупный этап эволюции вычислительной индустрии, который способен преобразить целые сектора экономики.
По мнению Хуанга, основное внимание следует уделять не гипотетическим сценариям катастрофы, а созданию четких правил разработки и использования ИИ. Речь идет как о технических стандартах, так и об этических принципах, которые уже постепенно становятся частью работы технологических компаний.
Руководитель Nvidia также считает, что у компаний достаточно инструментов для безопасного внедрения ИИ. К ним относятся многоэтапные проверки, тестирование и верификация моделей. При этом принцип должен оставаться простым: продукт нельзя выпускать на рынок, если компания не уверена в его безопасности.
| Комментарии (0) |