Нобелевский лауреат из MIT доказал: ИИ разрушает человеческие знания

Дарон Асемоглу вместе с коллегами из MIT опубликовал рабочий документ NBER «ИИ, познание человека и разрушение знаний» (NBER Working Paper 34910). Папер моделирует долгосрочное влияние агентик ИИ на человеческое познание. Полный текст доступен на nber.org/papers/w34910

Как работает прогресс человечества

Когда человек решает сложную задачу, он получает два типа знаний одновременно: общее понимание того, как устроен мир, и конкретное решение своей задачи. Делаешь тяжелую работу, усваиваешь общий принцип. Потом делишься с остальными. Так растет коллективное знание.

Что меняет агентик ИИ

ИИ-агенты дают готовое решение. Человек перестает делать тяжелую работу. Перестал работать, перестал вырабатывать общее знание, на которое опирается общество.

Коллапс знаний: концепция Асемоглу

Асемоглу называет это knowledge-collapse equilibrium. Когда ИИ достигает определенного порога точности, стимул у людей учиться падает до нуля. Никто не проверяет. Никто не исследует. Общество получает все более сложные автоматизированные выходы, но способность генерировать новые знания медленно разрушается.

Самое неожиданное открытие

Вывод об общественном благосостоянии оказался неожиданным: welfare «немонотонно» зависит от точности ИИ. Чем точнее ИИ, тем хуже обществу. Механизм: чем лучше ИИ отвечает, тем меньше людей берутся разбираться сами, тем меньше новых знаний появляется и разрыв между мощью ИИ и реальным пониманием мира растет.

Полный текст папера: https://www.nber.org/papers/w34910

Источник: https://x.com/HowToAI_/status/2061682750219034955