Успехи в Безопасности ИИ за последние полгода-год - Сергей Шегурин

На ближайшей встрече Сергей Шегурин расскажет о новостях в AI safety research за последние полгода.

Доклад базируется в основном на MIRI newsletters, а также группах MIRI и AI safety discussion в соцсетях.

После доклада будет организована дискуссия.

Мы хотим обсуждать темы, которые касаются будущего: от экзистенциальных рисков и катастроф планетарного масштаба и до утопий и этики общения с роботами.

Главное правило на этих встречах — подходить к любым высказанным идеям серьезно.

Вот несколько правил, которые мы хотим установить на встречах группы Футурология:

1. Соблюдайте принцип кооперации (все участники обсуждения видят общую цель обсуждения (например, это может быть «ответить на вопрос X»; если вы замечаете, что цель вам непонятна, то или уточните ее или прервите обсуждение).
2. Соблюдайте максимы кооперации: говорите не больше и не меньше, чем нужно для поддержания диалога (по возможности, будьте лаконичны); не говорите неправды; говорите ясно и четко; не отклоняйтесь от темы. Отступления будут модерироваться.
3. Вы свободны начинать обсуждение на любую тему, связанную с будущим.
4. Вы свободны вступать или не вступать в любое уже идущее обсуждение, не меняя его темы.
5. Критикуйте чужие идеи по сути. Обесценивающие высказывания в духе «а, это все чушь» будут модерироваться, а людей, которые их делают, мы будем просить замолчать на некоторое время. Нам важна доверительная атмосфера диалога.