Тонкая грань между утопией и антиутопией | Футурология

На собраниях этой группы мы уже не раз обсуждали возникновение сильного ИИ и опасности, которые это может за собой повлечь.

Допустим, мы знаем, как построить сильный стабильный дружественный ИИ, и нам осталось только объяснить ему, чего мы хотим. Что мы будем делать?

Нам надо будет транслировать ему, каким мы хотим видеть общество. Какие у нас ценности. Как мы бы хотели все устроить в мире. Оставим пока за рамками вопрос о том, каким языком для этого нам придется пользоваться. Кажется, у людей даже на содержательном уровне про это очень разные представления. Сначала нужно прийти к какой-то определенной этике, которая выльется в социальное устройство.

Это глобальная задача, про которую (в разных разрезах, не только в связи с ИИ) написали уже тонны литературы и сняли километры кино.

Давайте обсудим?

Какое общество мы хотим видеть и каким в нем будет человек? Что может пойти не так: как такое общество может превратиться в кошмар?

Ведущая встречи: Пион Гайбарян.

Мы хотим обсуждать темы, которые касаются будущего: от экзистенциальных рисков и катастроф планетарного масштаба и до утопий и этики общения с роботами.

Главное правило на этих встречах — подходить к любым высказанным идеям серьезно.

Вот несколько правил, которые мы хотим установить на встречах группы Футурология:

1. Соблюдайте принцип кооперации (все участники обсуждения видят общую цель обсуждения (например, это может быть «ответить на вопрос X»; если вы замечаете, что цель вам непонятна, то или уточните ее или прервите обсуждение).
2. Соблюдайте максимы кооперации: говорите не больше и не меньше, чем нужно для поддержания диалога (по возможности, будьте лаконичны); не говорите неправды; говорите ясно и четко; не отклоняйтесь от темы. Отступления будут модерироваться.
3. Вы свободны начинать обсуждение на любую тему, связанную с будущим.
4. Вы свободны вступать или не вступать в любое уже идущее обсуждение, не меняя его темы.
5. Критикуйте чужие идеи по сути. Обесценивающие высказывания в духе «а, это все чушь» будут модерироваться, а людей, которые их делают, мы будем просить замолчать на некоторое время. Нам важна доверительная атмосфера диалога.