Дарио Амодеи и будущее ИИ: разбор эссе и 15 промптов для глубокого анализа

Вчера CEO Anthropic Дарио Амодеи опубликовал эссе "Подростковый возраст технологий".

Много интересных мыслей, много спорных.

Так часто бывает, что прочитав какой-либо материал, хочется обсудить его с кем-то, увидеть то, что с первого взгляда незаметно или, если сами пишем текст - сделать его более качественным, аргументированным и интересным для аудитории.

По ссылке 15 промптов, которые можно использовать в любой нейросети для более глубокого анализа материалов.

Для эссе Дарио очень хорошо подходит промпт "Стресс-тест допущений" под номером 5:

Вскрой допущения этого аргумента:
Явные — которые автор называет
Неявные — которые подразумеваются
Для каждого допущения оцени хрупкость: низкая / средняя / критическая.
Для критических: что произойдёт с выводом, если допущение неверно?

Запускаем промпт сразу в Claude, ChatGPT и Gemini и после просим сделать общий вывод по результатам работы всех трех моделей.

Итог:

Аргументация Дарио Амодеи — это «карточный домик» с очень высокими ставками. Она внутренне непротиворечива, но хрупка.

Если хотя бы одно из ключевых условий не сработает (прогресс замедлится, конституция не удержит сверхразум, демократии станут тираниями или биооружие окажется сложным в производстве), то предложенная им стратегия не просто бесполезна, а потенциально вредна (разрушение экономики, геополитическая эскалация, ложное чувство безопасности).

Эссе — это не прогноз, а ультиматум: «Поверьте в эти допущения, иначе мы все умрем (или упустим рай)».

А мой вывод такой - мы с вами входим в фазу, когда затраты на ИИ всех участников гонки выросли настолько, что они уже не смогут окупиться и каждый бросается в спасение себя и обоснование почему именно его концепция будущего единственно верная и заслуживает поддержки.

Продолжаем наблюдать и учиться "думать глубже".

@ReymerDigital