Если продолжить эту логическую цепочку, то можно предположить, что когда-нибудь машинный разум размером с дата-центр настолько же превзойдет нас по уровню интеллекта, насколько мы превосходим мышь. Пугающая перспектива!
К счастью, эта визуализация не выдерживает никакой критики. Ее кажущаяся убедительность построена на манипуляции размытым понятием «интеллект», которое невозможно измерить сколько-нибудь осмысленным образом, особенно при сравнении разных биологических видов. (Кстати, само использование уничижительного определения «деревенский дурачок» выдает предвзятое отношение к людям, которые предпочитают применять свой интеллект для выполнения практических задач, а не для научных исследований.)
Давайте в рассматриваемом примере заменим интеллект чем-то более конкретным — тем, что напрямую связано с могуществом, ведь именно последнее нас и интересует. Определим могущество как способность изменять окружающую среду (ведь именно это делает максимизатор скрепок таким опасным). Теперь перед нами совершенно иная картина (рис. 5.6).
Хороший, плохой, искусственный: Мифы вокруг ИИ и реальные примеры его использования
·
Арвинд Нараянан
