Всем спасибо. Было много интересного. Подчас спорного, подчас очевидного, но всё равно интересного.
Теперь, как водится, мои пять копеек. Но для начала - о терминах, а то некоторые не видят разницы между ИИ и ИР.
Как по мне, интеллект - это способность применять имеющиеся знания, способность выбирать оптимальный вариант поведения на основе имеющейся информации.
Разум же - это способность формировать новые знания. Способность создавать новую информацию, открывать и познавать законы, а не просто выбирать нужный из доступных. Поэтому, имхо, понятие "разум" шире понятия "интеллект", и интеллект в такой трактовке становится просто функцией разума, но не эквивалентом разума.
И ещё одна ключевая особенность разума - самопознание. Способность осознавать себя как личность.
Поэтому в беспилотных авто и "умных камерах" скорее ИИ, чем ИР. В вопросе же речь именно об ИР.
Ну и к сабжу. Ясное дело, что у меня тоже есть на это свой взгляд. Рисков тут несколько.
Во-первых, есть риск бунта людей, а не машин. Халява развращает. Повсеместное внедрение ИР приведёт не просто к количественному росту производства, а вызовет и качественные изменения. Возможность замены людей роботами практически везде действительно способна дать товарное изобилие, о котором мечтали теоретики коммунизма, но она же ведёт и к значительному сокращению занятости. Во всяком случае, занятости в товарном производстве - массовая замена людей на ИР в сфере обслуживания мне представляется маловероятной.
А значит - появляется (может появиться) огромная армия людей, которым будет нечем себя занять. Для них просто не будет рабочих мест, соответствующих их интересам и потребностям. Оно конечно, что упомянутое изобилие позволит обеспечить их всем необходимым для жизни (нечто подобное - гарантированный минимальный доход - в некоторых странах есть уже и сейчас), но - не скучно ли им будет? И чем займёт себя молодой растущий организм, не имеющий куда приложить молодецкую свою силушку и неуёмную энергию? И кого он сочтёт виноватым(и) в своей ненужности? Не появится ли опять проблема, которую мы, хоть и на совсем другом материале, изучали в школе, проблема "лишних людей"? И не грозит ли нам появление "новых луддитов"?
Второй риск: "равный человеческому" означает и "способный ошибаться". Errare humanum est (как я однажды сказал преподавателю на экзамене по научному коммунизму; впрочем, это офф-топик). Искусственный разум, равный человеческому, не из любви к экспериментам создаётся, а чтоб заменить человека там, где несовершенство человека как ключевого компонента системы несёт высокий риск. Например, авиадиспетчеры, врачи-диагносты, операторы крупных энергетических систем, высшее военное начальство... А теперь представьте себе цену такой ошибки. И если разум машины будет тождественен человеческому по своим свойствам, а значит, тоже подвержен ошибкам, - что может стать результатом такой ошибки? Да и на фига он такой нужен?
(Ещё дин офф-топик. А ведь вопрос - сможет ли разум, равный человеческому, не ошибаться, - он и сам по себе интересен...)
Третий риск - он отчасти может трактоваться как "бунт машин" (то есть ровно то, про что я сам просил не упоминать за тривиальностью...), но это всё ж нечто другое. Разум, по фигу естественный или искусственный, означает и самоидентификацию, самопознание (что я уже и упомянул в самом начале). Человек - или не-человек - не может считаться по-настоящему разумным, если он не осознаёт собственное "я", если он не отделяет себя от других аналогичных субъектов. А значит, на планете появляется другая разумная раса, не тождественная человеческой. Раса, не исключено, со своей моралью, своими интересами и своими понятиями о том, что для неё ценность, а что - нет. И где гарантия, что интересы, а то и жизни особей конкурирующей расы, то есть Homo Sapiens, для этой новой расы будут достаточно ценными? Ведь искусственный разум, если верить писателям-фантастам - а кому ж ещё и верить-то? - должен быть куда совершеннее человеческого. Ну и вспомним историю колонизации. Вспомним, чем оборачивалось для жителей дальних стран приход туда просвещённых и цивилизованных европейцев. Не то же ли самое получится с приходом куда более совершенного ИР на земли, занятые несовершенными биологическими разумами?
Такие вот невесёлые варианты...
Впрочем, я тут этого мраку нагнал специально. Чтоб карась не дремал.
