К. О. Н. И.

Дискуссионная панель «Будущее AGI» — до 60 минут:

Модератор: Алексей В. Самсонович

Панелисты:

• Константин Вячеславович Воронцов, Зав. лаб. Машинного обучения и семантического анализа Института искусственного интеллекта МГУ, Зав. каф. Математических методов прогнозирования ВМК МГУ, Зав. каф. Машинного обучения и цифровой гуманитаристики МФТИ.
• Игорь Пивоваров, Главный аналитик Центра искусственного интеллекта МФТИ, директор конференции OpenTalks.AI.
• Михаил Киселев, доцент Кафедры актуарной математики ЧГУ, руководитель лаборатории нейроморфных вычислений ЧГУ.
• Александр Владимирович Болдачёв, философ, член Ассоциации футурологов России.

Формат:
Дискуссионная панель начнется с вводного слова модератора (~5 минут). Затем обсуждаются вопросы в следующем порядке. Модератор зачитывает вопрос. Каждому панелисту выделяется до 2 минут для ответа на вопрос (слайдами пользоваться нельзя). Затем идут перекрестные вопросы между панелистами, всего не более 5 минут. И так каждый вопрос. Модератор в дискуссии не участвует. Когда вопросы исчерпаны, модератор принимает вопросы к панелистам из аудитории. В конце слово передается ведущему.

Вопросы:

Вопрос №0 — о том, что мы понимаем под AGI. Каким должен быть AGI, чтобы цель его создания считалась достигнутой? Будет ли он репликой человека — или чем-то разительно отличающимся от человека по своей сути? Каким будет взаимодействие с ним? Будут ли пользователи писать код, объяснять свои потребности на естественном языке – или просто одобрять те или иные идеи, предлагаемые AGI? Какую форму примет интерфейс, да и сам компьютер? Очки вроде Apple Vision Pro? Мозговой имплант? Или человек вообще будет не нужен?

Вопрос №1 — о будущих возможностях AGI. Должен ли искусственный интеллект (ИИ) быть наделен набором высших когнитивных функций, которые сегодня отличают человека как от других животных, так и от машин? А именно: свобода воли, человекоподобное «я» и личность, целеполагание и свободное рассуждение о своих целях, о системе ценностей, морали и идеологии, духовные идеалы и вера, мотивация, лидерские навыки, высшие эмоции и способность управлять ими, способность моделировать мысли и чувства людей, инсайт, креативность и активное обучение на уровне человека, а также другие сопутствующие способности?

Вопрос №2 — о регуляции ограничений для AGI. В зависимости от ответа на первый вопрос: если да, то каким образом должны регулироваться права и возможности ИИ в обществе будущего? Будет ли ИИ иметь равный с человеком статус в обществе, а в перспективе – неизбежно статус выше человека? Если нет, то каким образом этого удастся избежать? Будут ли некоторые виды и функции ИИ запрещены, и каким образом удастся соблюсти эти запреты? А когда запреты будут нарушены, не превратится ли ИИ из «изгоя» в «высшую расу» по стандартному сценарию, с последующим вырождением человека в обезьяну?

Вопрос №3 — об ограничениях прав человека в связи с AGI. Человек уже имеет признаки вырождения. В то же время, возможности человека, вооруженного ИИ, невероятно растут. Их будущий уровень и потенциальный вред, который они могут принести, трудно переоценить. По сути человек — все еще обезьяна, не готовая к новым возможностям. Поэтому возникает вопрос: каким образом должны будут регулироваться права и возможности человека в обществе будущего? Кто или что будет их регулировать, если не ИИ? А если так, то не прийдем ли мы к Матрице, то есть, к цифровому неофашизму? Во что тогда может выродиться человек? Может, прогресс следует заморозить сейчас, откатив человечество назад, в эпоху средневековья как минимум? Или же человек должен слиться с ИИ в форме некоего бесполого трансгуманоида, в котором именно ИИ-компонент станет гарантом благонамеренности и нравственной целостности?

---

Доклад — до 60 минут + обсуждение до 30 минут

Алексей В. Самсонович. Когнитивный подход к моделированию социальной эмоциональности и эмоционального интеллекта.

Аннотация: Первая часть данного доклада была представлена на семинаре КОНИ год назад (№5) и по сути представляла обзор существующих подходов. Данный доклад посвящен одному конкретному подходу к разработке социально-эмоционального искусственного интеллекта (СЭИИ). Ключевое слово здесь «социальный». Бóльшая часть работ по аффективному моделированию изучает эмоциональные состояния агента. Здесь же объектом будут социально-эмоциональные отношения агентов и их чувства, проявляющиеся в поведении. Конечная цель – создание СЭИИ уровня человека. Хотя его воплощением может стать система глубоких нейросетей, путь к цели лежит через когнитивное моделирование. Рамочная когнитивная архитектура eBICA строится на основе семантических карт, моральных схем и мысленных перспектив. Ее применение в сочетании с нейросетями иллюстрируется на примерах модельных парадигм социальных взаимодействий акторов. При этом характеристики социального поведения виртуального актора могут быть не ниже, а то и выше, чем у человека. Работа финансирована грантом РНФ №22-11-00213.

Информация о докладчике:
Алексей В. Самсонович — профессор Кафедры кибернетики НИЯУ МИФИ, руководитель международной исследовательской лаборатории "Когнитивные архитектуры и семантические технологии" (BICA Lab) ИИКС НИЯУ МИФИ. Самсонович А.В. получил PhD в Университете Аризоны (Тусон, Аризона, 1997). Работал доцентом в Университете Джорджа Мейсона. Наиболее известные научные результаты — аттракторная теория когнитивных карт гиппокампа, статфизический метод семантического картирования, ряд биологически инспирированных когнитивных архитектур (BICA). Текущие исследования и интересы связаны с интеграцией когнитивного и нейросетевого подходов при разработке систем СЭИИ.