Когда дело доходит до роботов и искусственного интеллекта, не только ученые сидят в тревоге, как обезопасить человечество от своих же гениальных изобретений. Оказывается, писатели тоже не дремлют и с 1940-х годов задумались: «А что если наш металлический друг вдруг решит, что мы ему мешаем?» В те времена один весьма пытливый фантаст по имени Айзек Азимов выдал миру три знаменитых закона робототехники — своеобразный свод правил для роботов, чтобы они не начали устраивать нам «Терминатор-пати» на нашей же кухне.
Эти законы — как святые заповеди для роботов: первый гласит, что робот ни в коем случае не должен вредить человеку или допускать вред своим бездействием. Представьте себе ситуацию: робот стоит рядом с человеком, который вот-вот упадет с лестницы, а он такой — «Ну ладно, я просто наблюдаю».
Нет-нет, так нельзя! Второй закон требует беспрекословного подчинения приказам человека — но опять же, если это не противоречит первому закону.
То есть если вы скажете своему роботу «Подожги квартиру», он вам вежливо ответит: «Извините, хозяин, но я предпочитаю жить в доме». Третий закон заботится о самом роботе — он должен беречь себя настолько, насколько это возможно без нарушения первых двух правил. В общем, робот сначала думает о человеке, потом о вас (если вы человек), а уж потом о себе любимом.
Если попытаться понять эти законы буквально, то можно представить себе сцену из жизни: робот-пылесос стоит перед вами и решает дилемму — «Если я сейчас уберу пыль с ковра и случайно задену ногу хозяина пальцем щетки — это вред? А если не уберу пыль — будет ли это бездействие во вред?
Хм… философия какая-то!» Вот именно эта размытость понятий делает законы такими универсальными для художественных рассказов и одновременно совершенно непригодными для реального внедрения в инженерии. Ведь чтобы соблюдать эти правила по-настоящему, роботу нужна полноценная модель мира и четкое понимание человеческих ценностей. А кто вообще может сказать точно, что такое добро и зло? Даже бабушка на лавочке спорит с соседкой по этому поводу!
Вместо того чтобы прописывать роботу моральный кодекс прямо на микросхеме (а это было бы похоже на попытку научить кошку играть в шахматы), инженеры используют более приземленные методы: архитектуры безопасности, нормы ответственности и кучу бюрократических документов.
Все эти умные правила — своего рода переосмысление идей Азимова: никто не хочет получить машину-убийцу из фантастики 50-х годов с глазами красного лазера.
Кстати говоря, про автора этих замечательных законов стоит рассказать забавную историю. Сам Азимов признавался, что к созданию трех законов его подтолкнул друг и редактор Джон Кэмпбелл. Этот товарищ был таким хитрым редактором-фокусником: он вычленял из черновиков Азимова самые ценные жемчужины мудрости и превращал их в золотые правила.
По словам самого писателя, Кэмпбелл был почти соавтором законов. Так что можно сказать — три закона родились благодаря дружбе двух гениев фантастики… ну и немного редакторского волшебства.
Хотя эти законы никогда не стали стандартом для настоящих инженеров (ведь современная техника пока слишком далека от понимания сложных моральных категорий), они оказали колоссальное влияние на культуру восприятия роботов.
Благодаря им мы перестали бояться каждого стального монстра как потенциального убийцы-механизма и начали представлять робота как существо с ограниченной этикой — почти как хороший сосед по лестничной клетке.