Глобальные решения проблемы безопасности ИИ - Футурология, Алексей Турчин

Это первая из серии открытых встреч по футурологии.

Зачем эти встречи?

Мы хотим обсуждать темы, которые касаются будущего: от экзистенциальных рисков и катастроф планетарного масштаба и до утопий и этики общения с роботами.

Будут ли какие-то правила обсуждения и модерация?

Главное правило на этих встречах — подходить к любым высказанным идеям серьезно.

Вот несколько правил, которые мы хотим установить на встречах группы Футурология:

1. Соблюдайте принцип кооперации (все участники обсуждения видят общую цель обсуждения (например, это может быть «ответить на вопрос X»; если вы замечаете, что цель вам непонятна, то или уточните ее или прервите обсуждение).
2. Соблюдайте максимы кооперации: говорите не больше и не меньше, чем нужно для поддержания диалога (по возможности, будьте лаконичны); не говорите неправды; говорите ясно и четко; не отклоняйтесь от темы. Отступления будут модерироваться.
3. Вы свободны начинать обсуждение на любую тему, связанную с будущим.
4. Вы свободны вступать или не вступать в любое уже идущее обсуждение, не меняя его темы.
5. Критикуйте чужие идеи по сути. Обесценивающие высказывания в духе «а, это все чушь» будут модерироваться, а людей, которые их делают, мы будем просить замолчать на некоторое время. Нам важна доверительная атмосфера диалога.

На первой встрече Группы Алексей Турчин, футуролог, расскажет о глобальных решениях проблемы безопасности ИИ.

Есть два вида решений проблемы безопасности искусственного интеллекта: локальные и глобальные. Локальные решения отвечают на вопрос, как сделать данный ИИ безопасным, тогда как глобальные решения — на вопрос как обезопасить планету в целом от рисков возникновения опасного ИИ где бы то ни было.

Большинство локальных решений не годятся в качестве глобальных. В рамках встречи Алексей расскажет обо всех известных глобальных решениях и попробует аргументировать наилучшее.

В целом есть два основных подхода к глобальному решению: создать первым сильный ИИ, установить в него систему дружественности и захватить с его помощью планету, предотвратив создание других ИИ. Но это акт (кибер)войны, с непредсказуемыми последствиями.

Другое решение — это Open AI, то есть сеть ИИ-команд, интеграция с мозгом человека, использование эмуляций, нейронета и самоапгрейда, для того, чтобы множество ИИ возникло в разных уголках Земли и ни один не обладал бы преимуществом.

Алексей покажет, как эти два решения стыкуются друг с другом, a также представит еще несколько решений, которые лежат вне пределов этой дихотомии. А именно: изменение числа команд, работающих над ИИ, торговля безопасностью ИИ как услугой, ИИ-полиция.

На встречу приглашаются все желающие!