Маск, Возняк, Рассел, Бенджуа и более 1000 ИИ-экспертов потребовали введения моратория на обучение мощных нейросетей
Изображение: Zac Wolff (unsplash)
В открытом письме, опубликованном на сайте некоммерческой организации Future of Life Institute, указывается, что неконтролируемый процесс в направлении обучения мощных нейросетей представляет угрозу для всего человечества. Поэтому специалисты требуют ввести 6-месячный мораторий.
Подписанты призывают все лаборатории искусственного интеллекта прямо сейчас временно остановить обучение систем ИИ, которые являются более мощными, чем версия GPT-4. Кроме того, требуется сделать публичное объявление о его исполнении, которое должно быть проверяемым и охватывать всех основных участников международной отрасли информационных технологий. Если подобную же паузу ввести в предельно сжатые сроки не получится, то правительства крупнейших стран мира должны вмешаться самостоятельно, введя соответствующий мораторий.
В письме подчеркивается, что лаборатории искусственного интеллекта и независимые специалисты отрасли обязаны воспользоваться этой «передышкой», чтобы совместно разработать и внедрить в дальнейшем набор общих протоколов безопасности. Это требуется для проектирования и разработки передовых систем искусственного интеллекта, проверку и контроль которых могут быть осуществлены независимыми внешними экспертами.
Кроме того, подписанты предложили внести изменения в политическую сферу для формирования новых регулирующих органов, которые будут заниматься вопросами искусственного интеллекта. Также было предложено создание системы контроля на государственном уровне, способной обеспечить безопасность новых систем.
Открытое письмо подписали Илон Маск, Стив Возняк, известные эксперты по технологиям искусственного интеллекта Стив Рассел и Иошуа Бенджуа, а также еще свыше 1100 ведущих специалистов мира в сфере информационных технологий, информационной безопасности и машинного обучения.
Некоторое время назад редакция CISOCLUB поговорила с российскими отраслевыми экспертами на тему искусственного интеллекта в сфере кибербезопасности.
Источник: cisoclub.ru