ta muallif kitobidan iqtiboslar Искусственный интеллект как позитивный и негативный фактор глобального риска
Элиезер Юдковски

O‘qish

Ilovada tinglash

Kitob haqida Taassurotlar19 Iqtiboslar393 Oʻqiyapti1.9K Javonlarda

unutranyholasiqtibos olmoqda10 yil oldin

каждые 18 месяцев минимальный IQ, необходимый, чтобы уничтожить мир, падает на один пункт

10 kishiga yoqdi1 ta fikr

Fikr bildirish

Елена Гаврилинаiqtibos olmoqda7 yil oldin

Люди по большому счёту не могут улучшать себя рекурсивно. В ограниченном объёме мы себя улучшаем: мы учимся, мы тренируемся, мы затачиваем свои навыки и знания. В небольшом отношении эти само-улучшения улучшают нашу способность улучшаться.

4 kishiga yoqdi

Fikr bildirish

FromYellowToOrangeiqtibos olmoqda7 yil oldin

тот ИИ, который первым поглощает интернет, может (потенциально) не допустить в него другие ИИ. Затем, посредством экономического доминирования, скрытых действий или шантажа или превосходящих способностей к социальной манипуляции, первый ИИ останавливает или замедляет другие ИИ проекты, так что никакого другого ИИ не возникает. Ключевой порог – поглощение уникального ресурса.

4 kishiga yoqdi

Fikr bildirish

Yusufiqtibos olmoqda2 yil oldin

Слишком много науки существует в природе, чтобы один человек мог её выучить.

2 kishiga yoqdi1 ta fikr

Fikr bildirish

Yusufiqtibos olmoqda2 yil oldin

Человеческие существа начинали, не обладая большими активами зубов, когтей, вооружений, или каких-либо других преимуществ, которые были ежедневной валютой для других видов. Если вы взгляните на людей с точки зрения остальной экосферы, не было никакого намёка на то, что мягкие розовые твари в конце концов закроют себя в бронированные танки.

2 kishiga yoqdi

Fikr bildirish

Yusufiqtibos olmoqda2 yil oldin

Не знание того, как сделать дружественный ИИ, не смертельно само по себе, в том случае, если вы знаете, что вы не знаете. Именно ошибочная вера в то, что ИИ будет дружественным, означает очевидный путь к глобальной катастрофе.

2 kishiga yoqdi

Fikr bildirish

Yusufiqtibos olmoqda2 yil oldin

Соблазнительно игнорировать ИИ в этой книге, потому что это наиболее трудная тема для обсуждения. Мы не можем обратиться к статистическим данным, чтобы вычислить маленькую годовую вероятность катастрофы, как в случае астероидных ударов. Мы не можем использовать вычисления на основании точных, точно подтверждённых моделей, чтобы исключить некие события или установить бесконечно малые верхние границы их вероятности, как в случае возможных физических катастроф. Но это делает катастрофы с ИИ ещё более беспокоящими, а не менее.

2 kishiga yoqdi

Fikr bildirish

Андрей Конищевiqtibos olmoqda3 yil oldin

забавным аспектом теории эволюции является то, что каждый думает, что понимает её

2 kishiga yoqdi

Fikr bildirish

Skripka Yaroslaviqtibos olmoqda5 yil oldin

наша альтернатива состоит в том, что или стать умнее, или вымереть

2 kishiga yoqdi

Fikr bildirish

FromYellowToOrangeiqtibos olmoqda7 yil oldin

Я думаю, что, в конце концов, окажется проще сделать 747ой с нуля, чем растянуть в масштабе существующую птицу или пересадить ей реактивные двигатели.

2 kishiga yoqdi

Fikr bildirish

ta muallif kitobidan iqtiboslar Искусственный интеллект как позитивный и негативный фактор глобального рискаЭлиезер Юдковски

ta muallif kitobidan iqtiboslar Искусственный интеллект как позитивный и негативный фактор глобального риска
Элиезер Юдковски