ИИ стал угрозой человечеству: Илон Маск призвал остановить все разработки
Основатель Tesla Илон Маск и группа экспертов в области искусственного интеллекта опубликовали открытое письмо, в котором потребовали остановить разработки мощных систем ИИ как минимум на 6 месяцев.
Речь о системах новее GPT-4. По мнению подписантов под обращением, ИИ несет в себе риски для обществ и человечества в целом.
С текстом письма ознакомились журналисты издания Reuters. Он опубликован на сайте Института будущего жизни (Future of Life Institute). К 29 марта документ подписали более тысячи человек. Помимо Маска идею поддержал гендиректор Stability AI Эмад Мостак, соучредитель Apple Стив Возняк, известный канадский ученый-математик Йошуа Бенгио.
В обращении говорится, что мощные системы ИИ нужно разрабатывать тогда, когда появится уверенность в системах антихакерской защиты. Все риски здесь должны быть абсолютно управляемыми. В противном случае активное внедрение в жизнь ИИ грозит экономическими и политическими потрясениями.
Европейская полиция и Интерпол согласились с правомерностью озабоченности ученых, выразив подозрения, что, например, чат-бот ChatGPT может быть использован для фишинга, дезинформации людей.
Гендиректор OpenAI, программист OpenAI Сэм Альтман отказался подписывать обращение без объяснения причин. Профессор Нью-Йоркского университета Гэри Маркус говорит, что текст обращения не идеален, но сего общим смыслом нельзя не согласиться. Разработки в сфере ИИ нужно приостановить, чтобы просчитать все последствия и риски.