Соучредитель Microsoft Билл Гейтс призывает готовиться к 20 годам турбулентности из-за развития искусственного интеллекта. Об этом он заявил в интервью изданию The Verge.
По словам Билла Гейтса, прогресс ИИ последнего года поражает. Он научился писать код, находить киберуязвимости, рассуждать в биологии и выстраивать отношения с людьми.
«Невероятная мощь, которая существует сегодня, означает, что все это произойдет, и общество должно быть готово», — добавил миллиардер.
Он сказал, что главный риск исходит от моделей без защитных механизмов. Именно такие открывают возможности для кибератак и биотерроризма. Более отдаленная угроза связана с потерей контроля над любой передовой моделью.
«Мы перешли порог возможностей: это, безусловно, самая опасная технология из когда-либо изобретенных, и она окажет всепроникающее влияние на экономику и то, как ведутся войны», — подчеркнул Билл Гейтс.
По его словам, индустрия открыто говорит о рисках, но за ее пределами готовность верить в то, что «на этот раз все иначе», очень низка.
«Ни одно из предупреждений, которые делают инсайдеры отрасли, не является неискренним. Это абсолютная правда», — указал собеседник издания.
По его словам, для контроля над ИИ есть три фундаментальных подхода: изменить сам способ построения моделей (уйти от обучения с подкреплением), обеспечить прозрачность («белый ящик», чтобы видеть, что внутри) либо создать «полицейский слой» — символические правила безопасности, которые модель не может нарушить.
Последний вариант миллиардер считает наиболее вероятным решением проблемы выравнивания (alignment).