Aстра (astidora) wrote in orden_bezdna,
Aстра
astidora
orden_bezdna

Categories:

Сильный ИИ

Юрий Валентинович Визильтер — начальник подразделения интеллектуального анализа данных и технического зрения ГосНИИ Авиационных систем, профессор РАН.

Важно понимать, что функциональный искусственный интеллект — это просто технология. Это не какие-то фантастические думающие и чувствующие машины, наделенные свободой воли и возможностью принимать решения. Ответственность за последствия применения функционального ИИ всегда несут люди. А ущерб от ИИ для человека и общества возможен! Он даже может оказаться весьма существенным. Ведь искусственный интеллект, робототехника — это, безусловно, токсичные технологии. Такие же, как химическое производство, ядерная энергетика, телевидение, интернет и множество других современных технологий, плодами которых мы постоянно пользуемся в повседневной жизни. Сама жизнедеятельность человека жутко токсична. Взять хотя бы проблемы с мусором. С токсичными технологиями приходится мириться до тех пор, пока мы считаем, что польза от их применения превышает наносимый ими вред.

Поэтому, когда речь идет о функциональном искусственном интеллекте, то мой ответ — нужно внедрять его везде, где возможно. При этом, конечно, нужно помнить о безопасности и четко составлять регламенты использования этой сложной токсичной технологии. И еще раз отмечу: в случае техногенных аварий и катастроф ответственность лежит не на технологиях — а на людях, которые эти технологии используют.

Совсем иначе выглядит ситуация с потенциальными угрозами и ответственностью, когда мы говорим о «сильном» ИИ…

Предполагается, что «сильный» искусственный интеллект — это искусственная личность. У такой искусственной личности, как и у человека, могут и должны быть желания, страхи, намерения, собственное мнение.

Сможем ли мы создать «сильный» ИИ? Это другой вопрос. Считается, что цифровая личность должна обладать сознанием. Но сначала нужно ответить на вопрос, а что такое человеческое сознание? И тут выясняется, что никто точно не знает, что оно собой представляет. Философы говорят одно, нейрофизиологи — другое, математики — третье… Существует интегральная дисциплина под названием Cognitive Science (когнитивная наука) — сплав нейрофизиологии, психологии, математики, машинного обучения. Она пытается изучать то, как функционирует наше сознание. И специалисты сходятся в том, что большая часть деятельности в человеческом мозге происходит бессознательно и параллельно — дыхание, слюноотделение, и даже принятие решений. Мы за полсекунды определяем, нравится нам человек или нет, совершенно не опираясь на логику, почти бессознательно.

При этом мы обладаем некой иллюзией внутреннего единого времени, единой личности, процесса последовательного существования. Судя по всему, есть такая структура или процесс в мозге (точная локализация его еще не определена), групповая деятельность нейронов, которую можно назвать Наблюдателем или Рассказчиком. Он взаимодействует с остальными структурами и пытается выстроить нарратив — последовательность повествования о собственной жизни. Именно он создает иллюзию, что мы — некое единое «я», которое что-то решает, что-то желает и т.д.

Само слово «робот» придумал Карел Чапек. Оно прозвучало в его пьесе, сюжет которой как раз и состоял в том, что искусственные рабы-андроиды стали осознавать себя, чувствовать, влюбляться… а в конце, благодаря этому, возникает новое человечество. Так что этот сюжет достаточно архетипичный. Многие люди боятся неповиновения роботов и случайного возникновения у них сильного искусственного интеллекта. Я же призываю разделять эти вещи. Как бы правдоподобно ни звучала речь голосового помощника «Алиса», она не может думать и чувствовать. И никакая случайная поломка не может превратить «Алису» в думающее и чего-то желающее существо. Потому что поломки не ведут к усложнению, они ведут только к упрощению и хаотизации поведения.

Но если вы спросите меня, реально ли создать «сильный» искусственный интеллект, то я отвечу — вероятно, да, но не сейчас. Моя оценка — 2040 год, не раньше. Создание функционального искусственного интеллекта — это действительно вопрос ближайших лет, и для его реализации у нас уже все есть. Но над возникновением «сильного» искусственного интеллекта придется долго и упорно работать. Как мы уже обсуждали выше, гарантировать возможность создания «сильного» ИИ сложно из-за того, что мы пока не до конца понимаем, что такое сознание. Если мы это поймем в техническом смысле, мы приблизимся к «сильному» искусственному интеллекту.

Тем не менее, уже сейчас мы с легкостью можем создать имитацию человека. Возможно, через несколько лет вы уже не сможете отличить общение с искусственным контрагентом от общения с реальным собеседником. Но это будет всё тот же функциональный искусственный интеллект. Такой мимикрирующий под человека функциональный искусственный интеллект, как мне кажется, может быть создан уже через 5-10 лет.

https://scientificrussia.ru/articles/silnyj-iskusstvennyj-intellekt-naslednik-chelovechestva-chast-2
Tags: Искусственный интеллект, наука, нейробиология, сознание
Subscribe

  • Волки и вороны

    Борис Гребенщиков представил архивную версию песни «Волки и вороны». В архивной версии композиция длиннее на 30 секунд и содержит на 2 куплета…

  • Сыну космосвину

    Не знаю, понял ты или нет, но тот путь, который выбрал Нв - ведет в тупик. Там нет ни любви ни дружбы. Он ничего не может дать ни тебе , ни Лене.…

  • Дегустация в Бездне

    Святое вино! Кагор с горы \\Афон монастырское и т.д. Греческое не понравилось

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 0 comments