Видный специалист по искусственному интеллекту подтверждает опасения духовенства

Видный специалист по искусственному интеллекту подтверждает опасения духовенства

Во всем мире

Май

12

2023

Видный специалист по искусственному интеллекту подтверждает, что по мере своего развития ИИ быстро выходит за рамки «этичности и ответственности», пишет catholicnewsagency.

Ведущий исследователь искусственного интеллекта, которого многие считают «крестным отцом» ИИ, говорит, что эта технология развивается «пугающими темпами», и предупреждает, что она не должна выходить из-под человеческого контроля. Он подтверждает обеспокоенность духовенства и лично папы Франциска, который считает, что развитие технологий следует регулировать твердыми этическими нормами. Джеффри Хинтон (Geoffrey Hinton), ведущий исследователь ИИ на ресурсе Google, недавно вышел на пенсию в возрасте 75 лет и переехал в Канаду. На пенсии он прозрел и начал говорить правду, как часто случается с отставниками, более не связанными корпоративными нормами и субординацией. Теперь он начал замечать не только пользу, но и вред новых технологий, и считает, что их опасности заслуживают самого пристального внимания.

Нынешние передовые системы искусственного интеллекта, по его словам, сильно отличаются от привычного всем нам программного обеспечения. «Я пришел к выводу, что тот тип интеллекта, который мы разрабатываем, слишком сильно отличается от человеческого, – тревожится ученый. – В отличие от биологических разумных существ, он может плодить множество одинаковых цифровых систем с одинаковыми моделями мира. Хотя каждая из них учится по отдельности, они все обретают свои знания, причем делятся ими мгновенно. Представьте себе, что где-то в мире вдруг возникла группа в 10 тысяч человек с невероятными способностями, и как только кто-то из них чему-то научился, это знание мгновенно и автоматически передается всем. Вот почему эти чат-боты уже знают намного больше, чем любой человек. Наихудший и даже кошмарный сценарий развития подобных роботов состоит в том, что они смогут вырабатывать свои собственные подцели в рамках поставленных человеком целей, и однажды поставят себе цель довести собственные мощности до максимума».

В среднесрочной перспективе многие также опасаются, что искусственный интеллект скоро успешно автоматизирует множество человеческих работ и тем самым породит эпидемию безработицы

Другие исследователи также усматривают различные риски совершенствования систем ИИ в краткосрочной, среднесрочной и долгосрочной перспективе. Ближайший риск заключается в том, что роботы ИИ чрезвычайно убедительно лгут, то есть «легко вводят человека в заблуждение ложной информацией, искусно созданной средствами ИИ». К примеру, мошенники и злоумышленники могут с их помощью генерировать ложные телефонные вызовы голосами близких родственников, якобы попавших в тяжелую ситуацию и срочно нуждающихся в деньгах. А недавно даже папу римского Франциска выставили на посмешище с помощью ИИ. Робот сгенерировал ложную компьютерную фотографию понтифика в стильной белой пуховой куртке, этот снимок тут же стал вирусным в социальных сетях, причем очень многие приняли поддельное фото за реальное.

В среднесрочной перспективе многие также опасаются, что искусственный интеллект скоро успешно автоматизирует множество человеческих работ и тем самым породит эпидемию безработицы. Модераторы интернет-контента, юристы, личные помощники и переводчики первыми лишатся работы, прогнозирует один из ученых в интервью New York Times.

Седмица.Ru