Книга является как бы идейным продолжением его «Когда мы перестали понимать мир» о темной стороне науки. Эта более линейная, логичная, стройная.
Создание компьютера, связь с ядерной и водородной бомбой, теорией игр, машинным обучением. И вновь про тонкую, пунктирную и так легко стираемую линию между гениальностью и безумием, между добром и злом, про то, что у каждого свой северный полюс в моральном компасе. Что такое человечность у гениев?
Для меня резюме этой вещи символично в той самой игре Го великого шахматиста Ли Седоля против AlphGo, когда человек проиграл и завершил карьеру, а создатели ИИ-победителя сами не поняли, как его построили (в начале использовали разум и опыт человека, но потом ИИ сам себя натренировал в разных сценариях). И, конечно, в теореме Гёделя о неполноте: в процессе познания мы никогда не достигаем одновременно и полноты, и непротиворечивости. В общем, человечество - RIP. Где ты, Джон Коннор?
P.s. В рамках внеклассного чтения ознакомилась с той самой статьей Ньюмена про связь между воображением и памятью, важной в развитии AGI и ИИ, работами Хассабиса (DeepMind - AlphaGo). Этические риски вынесены за книгу, в статьях, подкастах и выступлениях на конференциях можно найти. Этические аспекты и риски (Хассабис этику вопроса видит одним из 4 рисков развития AGI/AI) не успели войти в книгу.
Pp.s.Цитата:
«Власть технологий сама по себе — достижение двоякое, а наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна. Опасность создает не особенно извращенная деструктивность какого-то определенного изобретения. Опасность имманентна. Нет лекарства от прогресса»
21 kishiga yoqdi
Kirish yoki roʻyxatdan oʻtish sharh qoldirish uchun
