Искусственный интеллект как позитивный и негативный фактор глобального риска
MatnAudio

Kitobdan iqtiboslar  Искусственный интеллект как позитивный и негативный фактор глобального риска
muallif Элиезер Юдковски

Kitob haqidaTaassurotlar23Iqtiboslar415Oʻqiyapti2.2KJavonlardaOʻxshash kitoblar
unutranyholas
unutranyholasiqtibos olmoqda10 yil oldin
каждые 18 месяцев минимальный IQ, необходимый, чтобы уничтожить мир, падает на один пункт
10 kishiga yoqdi1 ta fikr
Fikr bildirish
FromYellowToOrangeiqtibos olmoqda7 yil oldin
тот ИИ, который первым поглощает интернет, может (потенциально) не допустить в него другие ИИ. Затем, посредством экономического доминирования, скрытых действий или шантажа или превосходящих способностей к социальной манипуляции, первый ИИ останавливает или замедляет другие ИИ проекты, так что никакого другого ИИ не возникает. Ключевой порог – поглощение уникального ресурса.
6 kishiga yoqdi
Fikr bildirish
Елена Гаврилина
Елена Гаврилинаiqtibos olmoqda7 yil oldin
Люди по большому счёту не могут улучшать себя рекурсивно. В ограниченном объёме мы себя улучшаем: мы учимся, мы тренируемся, мы затачиваем свои навыки и знания. В небольшом отношении эти само-улучшения улучшают нашу способность улучшаться.
5 kishiga yoqdi
Fikr bildirish
Yusuf
Yusufiqtibos olmoqda3 yil oldin
Слишком много науки существует в природе, чтобы один человек мог её выучить.
3 kishiga yoqdi1 ta fikr
Fikr bildirish
Yusuf
Yusufiqtibos olmoqda3 yil oldin
Не знание того, как сделать дружественный ИИ, не смертельно само по себе, в том случае, если вы знаете, что вы не знаете. Именно ошибочная вера в то, что ИИ будет дружественным, означает очевидный путь к глобальной катастрофе.
3 kishiga yoqdi
Fikr bildirish
Yusuf
Yusufiqtibos olmoqda3 yil oldin
Человеческие существа начинали, не обладая большими активами зубов, когтей, вооружений, или каких-либо других преимуществ, которые были ежедневной валютой для других видов. Если вы взгляните на людей с точки зрения остальной экосферы, не было никакого намёка на то, что мягкие розовые твари в конце концов закроют себя в бронированные танки.
2 kishiga yoqdi
Fikr bildirish
Yusuf
Yusufiqtibos olmoqda3 yil oldin
Соблазнительно игнорировать ИИ в этой книге, потому что это наиболее трудная тема для обсуждения. Мы не можем обратиться к статистическим данным, чтобы вычислить маленькую годовую вероятность катастрофы, как в случае астероидных ударов. Мы не можем использовать вычисления на основании точных, точно подтверждённых моделей, чтобы исключить некие события или установить бесконечно малые верхние границы их вероятности, как в случае возможных физических катастроф. Но это делает катастрофы с ИИ ещё более беспокоящими, а не менее.
2 kishiga yoqdi
Fikr bildirish
Андрей Конищев
Андрей Конищевiqtibos olmoqda3 yil oldin
забавным аспектом теории эволюции является то, что каждый думает, что понимает её
2 kishiga yoqdi
Fikr bildirish
Skripka Yaroslav
Skripka Yaroslaviqtibos olmoqda6 yil oldin
наша альтернатива состоит в том, что или стать умнее, или вымереть
2 kishiga yoqdi
Fikr bildirish
FromYellowToOrangeiqtibos olmoqda7 yil oldin
Я думаю, что, в конце концов, окажется проще сделать 747ой с нуля, чем растянуть в масштабе существующую птицу или пересадить ей реактивные двигатели.
2 kishiga yoqdi
Fikr bildirish