Pro роботов

[Роман_без_кольца]

8 часов назад, НеЯ сказал:

Смеётесь? ))) Чем программа может угрожать человечеству, если это программа? Программа же самостоятельностью или волей НЕ обладает. Программа действует только в рамках программы, которые определяет программист. Т.е. программа никак НЕ сможет угрожать человечеству, если программист этого НЕ захочет и в программе НЕ реализует. Всё в руках человека. НЕзаряженное ружьё никогда НЕ выстрелит.

  Не всегда возможно предусмотреть в программе все нюансы. Вам может показаться это нелепым, но по сути так оно и есть.

  Приведу конкретный пример: нам нужно было автоматизировать одно рабочее место. Была написана программа управления механизмами станка. И вот однажды клиент обратился с претензией: "Станок вшёл в ступор!" Мы долго искали причину и не могли понять, как такое вообще возможно. Потом решили спросить про последние действия персонала на этом станке. Оказалось, что два бездельника от нечего делать нажимали на пультах все кнопки подряд и умудрились таки собрать комбинацию, когда при одновременном нажатии у процессора мозги задымились. Для информации: на станке изначально не было предусмотрено управление сразу двумя работниками и указанные пульты находятся на приличном расстоянии друг от друга. Так что один человек никак не мог одновременно нажать кнопки и там, и там. Как Вам такое?

[-=Игорь=-]

14 часов назад, Nitrino сказал:

 

В робота все таки все цели и все варианты развития событий невозможно заложить, не хватит ресурсов на обработку данных, поэтому если робот попадет в новую ситуацию которой нет в алгоритме, он не будет знать что ему делать, а человек легко адаптируется.

а если со временем технологии достигнут уровня, когда объём памяти робота превысит человеческий? А если те же технологии позволят кардинально повысить скорость обработки данных? Вы тоже будете говорить, что роботы не смогут обладать соизмеримым с человеком интеллектом? А если человек напишет такую программу, которая позволит роботу самостоятельно генерировать исполняемый код, верифицировать его, удалять если не прошёл верификацию, запоминать и применять куски программ, которые успешно прошли проверку? Что в этом такого теоретически невозможного с человеческой точки зрения?

19 минут назад, Роман_без_кольца сказал:

Не всегда возможно предусмотреть в программе все нюансы.

Зато всегда можно при желании исправить ошибки. Человек то на самом деле тоже не идеален, ему известны далеко не все жизненные нюансы. Кто мешает дополнить код программы использованием ватчдогов? Никто. Тот же ЧПУ можно дополнить программой, которая в постоянном режиме будет заниматься самодиагностикой, и если по некоторым критериям программа решит, что устройство находится в неправильном режиме работы, то можно блокировать поступаемые команды и начать процедуру первичной инициализации.

[rokibox]

9 часов назад, НеЯ сказал:

Смеётесь? ))) Чем программа может угрожать человечеству, если это программа? Программа же самостоятельностью или волей НЕ обладает.

Так речь идет о программе которая даст ИИ самоосознание. Неужели вы думаете мысль человека остановится перед этой границей.  Я и спрашиваю Вы бы не стали реализовывать такую программу если бы Вы ее создали?

Атомную бомбу же испытали.

 

[Kristopherjan]

....Когда мы говорим о действии материальных объектов в социальном мире, кажется странным, что на протяжении почти 100 лет социология это игнорировала. Многие слышали о недавнем случае, когда во время испытания беспилотный автомобиль сбил насмерть человека. Во время судебных слушаний по этому делу впервые использовалось выражение «ответственность машины». То есть автомобилю может быть делегирована ответственность. В этом смысле юристы идут дальше социологов, поскольку на юридических конгрессах уже бывают представлены секции, посвященные правам вещей. И там уже вводится понятие «смерть вещи», тогда как в социальной теории его пока нет. Еще один случай произошел с Джошуа Брауном — одним из энтузиастов внедрения беспилотников в США. Браун, бывший морской пехотинец, разбился во время поездки на Tesla. За год до этого он опубликовал вирусное видео на YouTube, где эта машина маневрирует и спасает жизнь водителю. К сожалению, его она не спасла. Дело в том, что во время езды он нарушил одну из инструкций — не держал руки на руле. Tesla требует от всех пилотов сохранять руки на руле для создания вовлеченности в процесс вождения. Джошуа читал книгу. Навстречу ему разворачивался грузовик, просвет между колесами которого был довольно большим. Tesla не распознала это как препятствие и попыталась проехать. Джошуа Браун погиб.

Эти примеры показывают, что сегодня мы сталкиваемся с ситуацией, когда становится непонятно, кто действует и чья это ответственность. Такие случаи происходят все чаще, и мы вынуждены разрабатывать теорию ответственности вещей. Социологов интересуют два аспекта этой проблемы. Первый — связь с социальной ситуацией, это называется «фреймом». Социологи техники изучают фреймы, взаимодействие людей и влияние техники на нашу погруженность в мир. Сегодня никто из нас не находится там, где находится физическое тело. Второй аспект проблемы — ответственность автомобиля. Это история уже про Google. Дело в том, что в критической ситуации автомобиль успевает распознать человека быстрее вас и потенциально может успеть свернуть. Однако в этот момент он создаст очень серьезную угрозу жизни водителя. Поэтому те, кто программирует беспилотники, вынуждены решать этическую проблему: если автомобиль свернет, то спасет женщину, которая выскочила перед машиной, но может убить вас и ваших детей. Кто будет покупать такой автомобиль? В Google гениально решили эту задачу. В тот момент, когда кто-то выскакивает перед автомобилем, алгоритм снижают способность обсчета ситуации на дороге до человеческого уровня. Если вы успеете увидеть женщину на дороге, он свернет. А если нет — он не свернет, а начнет делегировать ответственность, имитируя вас....

[Nitrino]

1 час назад, -=Игорь=- сказал:

а если со временем технологии достигнут уровня, когда объём памяти робота превысит человеческий? А если те же технологии позволят кардинально повысить скорость обработки данных? Вы тоже будете говорить, что роботы не смогут обладать соизмеримым с человеком интеллектом? А если человек напишет такую программу, которая позволит роботу самостоятельно генерировать исполняемый код, верифицировать его, удалять если не прошёл верификацию, запоминать и применять куски программ, которые успешно прошли проверку? Что в этом такого теоретически невозможного с человеческой точки зрения?

 

Представьте у робота миллиард миллиардов возможных целей и вариантов развития событий, как именно он будет делать из них выбор что ему делать в конкретный момент  ?

 

 

[Chapayskiy]

2 часа назад, Nitrino сказал:

 

Робот не сможет поставить себе цель, которую изначально не заложил в него человек, потому что у робота нет свободы воли

 

Свобода воли тут не при чем. Искусственный интеллект, в результате, например, "износа железа", может сбоить и делать явные ошибки в вычислении. Точно то же происходит и с человеком (устал, заболел, пьян). Просто в случае с человеком, в отличии от робота, сам человек может отыскать оправдания своим ошибкам. Но если запрограммировать робота на "самооправдание", то это и окажется тем, что мы подразумеваем под свободой воли - "не виновата я, он сам пришел!..."

 

Самая главная проблема в создании полноценного искусственного интеллекта в том, что для его полноценности, пришлось бы дать ему право самому решать, считать ли ошибкой то, что не было запрограммированно изначально или обозначить это, как "свободу воли".

 

И тут все упирается в морально-нравственный тупик "преступлений и наказаний", где роботу дается право самому решать уместность, адекватность и адаптивность заложенных изначально в него программ. Если такого права не давать - это будет все та же машина, пусть и суперпупер крутая (все согласно "Законам Азимова"). Но если роботу предоставить такое право, то... однажды для робота встанет вопрос, - "я или они?" и решение продвинутого рацио окажется далеко не в пользу человека.

[Nitrino]

28 минут назад, Kristopherjan сказал:

Во время судебных слушаний по этому делу впервые использовалось выражение «ответственность машины». То есть автомобилю может быть делегирована ответственность.

Т.е. создатели своего "чуда" скинули ответственность с себя на железку, что на мой взгляд является абсурдом. 

10 минут назад, Chapayskiy сказал:

Самая главная проблема в создании полноценного искусственного интеллекта в том, что для его полноценности, пришлось бы дать ему право самому решать, считать ли ошибкой то, что не было запрограммированно изначально или обозначить это, как "свободу воли".

 

Вот так и не получится сделать, потому что право решать об ошибке тоже нужно программировать, а любая программа это четкие инструкции что нужно делать. Вот тут человек и отличается от робота что он сам решается что ему делать, сам себе ставит цели, а роботу цели ставит программист, поэтому свободу воли и не могут запрограммировать, иначе бы давно бы это сделали.

[-=Игорь=-]

13 минут назад, Nitrino сказал:

 

Представьте у робота миллиард миллиардов возможных целей и вариантов развития событий, как именно он будет делать из них выбор что ему делать в конкретный момент  ?

 

 

представьте аналогию с человеком- сначала удовлетворение базовых потребностей: поиск пропитания, диагностика собственного состояния, поиск возможностей ремонта, смены изношенных комплектующих. Если всё в порядке, всего хватает, можно перейти в режим сна, можно заняться поиском обитаемых планет, можно грузить, копать. А что именно нужно, скажет робот-начальник.

Ответы на все ваши вопросы, которые вы хотите задать в отношении роботов, поищите сначала в мире людей. У человека тоже может быть много целей и вариантов развития событий, но по каким-то критериям (далеко не всегда правильным и оптимальным) выбираются приемлемые. Робот не обязан с появления на свет быть во всём правым, человек может наблюдать за ним, как за новорожденным ребёнком, корректировать программу, исправлять ошибки, добавлять новые методы постановки целей, обработки данных, принятия решений, способов выполнения.

18 минут назад, Nitrino сказал:

Вот тут человек и отличается от робота что он сам решается что ему делать, сам себе ставит цели, а роботу цели ставит программист, поэтому свободу воли и не могут запрограммировать, иначе бы давно бы это сделали.

это исключительно ваше понимание робота, основанное на художественных книгах. Реальность может быть значительно обширнее. С чего вы взяли, что робот в теории не может ставить сам себе цели? Кто его в этом ограничивает? Ваше отсутствие фантазии?

[Nitrino]

33 минуты назад, -=Игорь=- сказал:

Если всё в порядке, всего хватает, можно перейти в режим сна, можно заняться поиском обитаемых планет, можно грузить, копать. А что именно нужно, скажет робот-начальник.

А самый высший робот начальник над всем откуда будет знать что нужно делать ? 

 

33 минуты назад, -=Игорь=- сказал:

Робот не обязан с появления на свет быть во всём правым, человек может наблюдать за ним, как за новорожденным ребёнком, корректировать программу, исправлять ошибки, добавлять новые методы постановки целей, обработки данных, принятия решений, способов выполнения.

Мы говорим о возможности создания самостоятельного искусственного разума, а это уже вмешательство человека в процесс, о чем я вам и говорю -  роботу человек ставит цель.

 

33 минуты назад, -=Игорь=- сказал:

С чего вы взяли, что робот в теории не может ставить сам себе цели? Кто его в этом ограничивает? Ваше отсутствие фантазии?

Мы говорим не о фантазиях и книгах, а о реальном мире.

Откуда робот узнает какие цели ему ставить и какие исполнять ? 

 

 

 

[Мимоза]

3 часа назад, Роман_без_кольца сказал:

  Не всегда возможно предусмотреть в программе все нюансы. Вам может показаться это нелепым, но по сути так оно и есть.

  Приведу конкретный пример: нам нужно было автоматизировать одно рабочее место. Была написана программа управления механизмами станка. И вот однажды клиент обратился с претензией: "Станок вшёл в ступор!" Мы долго искали причину и не могли понять, как такое вообще возможно. Потом решили спросить про последние действия персонала на этом станке. Оказалось, что два бездельника от нечего делать нажимали на пультах все кнопки подряд и умудрились таки собрать комбинацию, когда при одновременном нажатии у процессора мозги задымились. Для информации: на станке изначально не было предусмотрено управление сразу двумя работниками и указанные пульты находятся на приличном расстоянии друг от друга. Так что один человек никак не мог одновременно нажать кнопки и там, и там. Как Вам такое?

Ну Вы сами отлично объяснили причину, по которой мозги процессора задымились.

[-=Игорь=-]

29 минут назад, Nitrino сказал:

А самый высший робот начальник над всем откуда будет знать что нужно делать ? 

а самый высший человек-начальник, откуда знает, что нужно делать?

 

30 минут назад, Nitrino сказал:

Мы говорим о возможности создания самостоятельного искусственного разума, а это уже вмешательство человека в процесс, о чем я вам и говорю -  роботу человек ставит цель.

и что, где вы нашли у меня противоречие? На этапе разработки и отладки самостоятельного искусственного разума без участия человека не обойтись, раз уж предполагается, что именно человек является творцом. Посмотрите внимательнее на мир людей. Разве новорожденный младенец в состоянии жить самостоятельно? Нет. Так почему вы для искусственного разума сразу устанавливаете такую высокую планку, не давая никакого периода на создание, обучение и отладку?

 

34 минуты назад, Nitrino сказал:

Мы говорим не о фантазиях и книгах, а о реальном мире.

Откуда робот узнает какие цели ему ставить и какие исполнять ? 

Откуда вы знаете, зачем вы родились, что вам нужно делать и каким способом достигать цели? Вы с рождения всё знаете?

[Мимоза]

3 часа назад, -=Игорь=- сказал:

А если человек напишет такую программу

А если бы да кабы - во рту бы выросли грибы, и был бы не рот, а огород ))) 

Ну каким образом возможно написать программу сознания, если сознание программой НЕ является, м? У программы НЕ может быть воли, НЕ может быть самостоятельности, НЕ может быть "НЕ хочу" или "НЕ буду", НЕ может быть понимания (осмысления) нового. А у сознания всё это есть.

2 часа назад, rokibox сказал:

Так речь идет о программе которая даст ИИ самоосознание

Такую программу создать НЕвозможно. 

[Роман_без_кольца]

10 минут назад, НеЯ сказал:

Ну Вы сами отлично объяснили причину, по которой мозги процессора задымились.

От ошибок никто не застрахован.

[-=Игорь=-]

2 минуты назад, НеЯ сказал:

Ну каким образом возможно написать программу сознания, если сознание программой НЕ является, м? У программы НЕ может быть воли, НЕ может быть самостоятельности, НЕ может быть "НЕ хочу" или "НЕ буду", НЕ может быть понимания (осмысления) нового. А у сознания всё это есть.

Воля - это способность делать выбор и совершать действия. Робот вполне может справиться с этой задачей.

Самостоятельность- это способность жить автономно. Человек при рождении не обладает самостоятельностью, это приобретаемый навык. Значит и робота можно научить самостоятельной жизни- добывать себе питание, уметь себя ремонтировать, копировать.

Сознание- это не просто программа- это совокупность реакций на внешние события. Робот может с помощью датчиков воспринимать внешние события. Робот может реагировать на эти события с помощью органов управления, у робота изначально могут быть заложены знания о собственном строении. Роботу можно добавить функции "Не хочу", "Не буду". Опять же сошлюсь на человеческий опыт- реакция человека "не хочу и не буду" часто бывает когда ему предлагают то, что он не может понять или по каким-то критериям ему делают неприемлемое предложение. Что мешает добавить роботу блок программы, вырабатывающий критерии приемлемости задачи, которую перед ним ставят?

 

В общем для того, чтобы начать работу над достаточно умным роботом, знаний уже предостаточно. В процессе работы по его созданию обязательно возникнут новые идеи. Моделей роботов можно создавать сколько угодно. Главное самому себе ответить на вопрос- зачем это нужно и кто будет это финансировать? Работа эта очень масштабная, может растянуться на десятилетия и столетия, плюс каждый раз будут появляться новые технологии, которые будут повышать эффективность очередного поколения роботов.

[Мимоза]

3 часа назад, rokibox сказал:

Атомную бомбу же испытали.

Атомная бомба - это материя. НЕматерию рождает только сознание. И сознание рождает только НЕматерию.

 

Сознание работает на живых клетках человеческого мозга - нейронах. Чтобы создать другое сознание искусственно, необходимо создать искусственно живые нейроны, на которых и работает сознание. Разумеется, нейроны НЕ смогут быть живыми вне мозга. Т.е. необходимо создавать целый живой мозг. Поскольку сознание работает с ощущениями органов чувств, в дополнение к мозгу придётся создать искусственно живые (т.е. содержащие нервные клетки)  органы чувств. Органы чувств необходимо будет соединять нервными клетками с мозгом. Поскольку нервные клетки живые, их необходимо питать органической пищей. Т.е. мозг и органы чувств необходимо поместить в питательную среду. Далее необходимо придумать способ извлечения продуктов сознания. Человек передаёт миру продукты своего сознания с помощью устной или письменной речи. Видимо, и искусственное сознание необходимо будет снабдить речевым аппаратом. Далее, искусственное сознание НЕ сможет самостоятельно двигаться, если НЕ будет иметь двигающихся конечностей. Т.о. создание сознания искусственно равносильно созданию искусственно живых мозга, органов чувств, речевого аппарата, конечностей, системы обмена веществ - т.е. живого человека по сути.

[Мимоза]

17 минут назад, -=Игорь=- сказал:

Воля - это способность делать выбор и совершать действия. Робот вполне может справиться с этой задачей.

Во-первых, сам программист определяет для робота варианты выбора. Во-вторых, сам программист определяет, какой вариант выбора сделать роботу в зависимости от ситуации. Т.е. воля робота - это по сути воля программиста. 

 

22 минуты назад, -=Игорь=- сказал:

и робота можно научить самостоятельной жизни- добывать себе питание, уметь себя ремонтировать, копировать.

Конечно. Программистами пишутся программы действий для робота по добыванию питания, ремонта, копирования - и всё, робот живёт по этим программам. Только для человека-то каков смысл в таком роботе? Человеку нужны роботы-помощники в интеллектуальных и физических работах человека. Т.е. логичнее создавать узкоспециализированных роботов-помощников для конкретных физических и умственных работ. И отдельно - роботов, занимающихся обслуживанием и производством роботов-помощников.

28 минут назад, -=Игорь=- сказал:

Сознание- это не просто программа

Сознание - это просто НЕ программа, ибо свободу воли имеет. 

29 минут назад, -=Игорь=- сказал:

Роботу можно добавить функции "Не хочу", "Не буду"

Зачем? Какой в этом смысл, если робот НЕживой? "НЕ хочу" и "НЕ буду" - это особенности ЖИВЫХ организмов с функцией сознания. 

33 минуты назад, -=Игорь=- сказал:

Что мешает добавить роботу блок программы, вырабатывающий критерии приемлемости задачи, которую перед ним ставят?

Да в робота можно вложить любую программу. Но НЕ сознание. Потому что сознание программой НЕ является, ибо свободу воли имеет.

[Роман_без_кольца]

Только что, НеЯ сказал:

Во-первых, сам программист определяет для робота варианты выбора. Во-вторых, сам программист определяет, какой вариант выбора сделать роботу в зависимости от ситуации. Т.е. воля робота - это по сути воля программиста. 

  Вы на 100% уверены в возможность предусмотреть все нештатные ситуации в программе?

[Мимоза]

36 минут назад, -=Игорь=- сказал:

В общем для того, чтобы начать работу над достаточно умным роботом, знаний уже предостаточно.

Умный робот - это какой? Какие задачи должен, по-вашему, выполнять робот, чтобы считать его умным? М?

Например, беспилотники - умные роботы у Вас или ещё НЕ очень? )))

3 минуты назад, Роман_без_кольца сказал:

  Вы на 100% уверены в возможность предусмотреть все нештатные ситуации в программе?

Нет, конечно. Поэтому программы и тестируются по многу раз, и дорабатываются.

[Nitrino]

1 час назад, -=Игорь=- сказал:

а самый высший человек-начальник, откуда знает, что нужно делать?

Знания он получает во время жизни, но выбор среди знаний он делает с помощью свободы воли, свобода воли может действовать не по каким либо критериям а вопреки им, робот так не сможет, у него нет воли, он лишь исполняет цели заложенные человеком.

 

 

1 час назад, -=Игорь=- сказал:

и что, где вы нашли у меня противоречие? На этапе разработки и отладки самостоятельного искусственного разума без участия человека не обойтись, раз уж предполагается, что именно человек является творцом. Посмотрите внимательнее на мир людей. Разве новорожденный младенец в состоянии жить самостоятельно? Нет. Так почему вы для искусственного разума сразу устанавливаете такую высокую планку, не давая никакого периода на создание, обучение и отладку?

Роботу можно поставить глобальную цель, например игра в шахматы и он будет в ней совершенствоваться, но он не сможет выйти за её рамки.

Например робот умеет играть и в шахматы и в шашки, но во что конкретно ему играть в данный момент должен сказать человек, робот сам не сможет сделать выбор потому что у него нет воли, он может выбрать цель только случайно, но случайно это будет уже не разумный выбор.

 

 

1 час назад, -=Игорь=- сказал:

Откуда вы знаете, зачем вы родились, что вам нужно делать и каким способом достигать цели? Вы с рождения всё знаете?

Тут тоже самое, работа воли человека, знания я получаю с рождения, но что мне делать с ними решаю я своим хочу-не хочу.

 

 

[Kristopherjan]

2 часа назад, Nitrino сказал:

Т.е. создатели своего "чуда" скинули ответственность с себя на железку, что на мой взгляд является абсурдом. 

У Пелевина ещё в 2010 году обыгрывается - ответственность за принятое решение, что давно уже обсуждалось на западе, а про нас см. Яндекс Незамеченные революции – тема научной статьи по философии, этике

 

...Однако на смену одной проблеме тут же пришла другая.

Дело в том, что раньше в случае гражданских жертв можно было предъявить негодующей общественности какой-нибудь разъяснительный документ — например, расшифровку переговоров оператора с его непосредственным командиром. После этого становились понятны причины трагедии. Обыкновенно оставалась и видеозапись, где было видно, что телекамеру на плече журналиста или бревно на спине рабочего действительно можно принять за гранатомет или портативную ракету «земля-воздух». Словом, человеческую ошибку всегда можно было смягчить, показав ее неумышленность.

Новая система управления не давала такой возможности. И, хоть вероятность того, что «Freedom Liberator» откроет стрельбу по человеку с бревном на плече, стала значительно меньше, информационная чернота происходящего оказалась крайне неблагоприятным пиар-фактором. И Пентагон дал инженерам дополнительное задание — сделать работу системы открытой для внешнего наблюдателя, в удобной и наглядной форме демонстрируя, как именно принималось то или иное решение. Причем ясно это должно было быть не только специалисту, но и любому налогоплательщику.

Именно при выполнении этого заказа и проявились во всем блеске возможности системы.

Поскольку «Free D.O.M.» воспроизводила механизмы работы человеческого мозга, отчет о ее работе нетрудно было представить в понятной человеку форме. Проблема заключалась в выборе этой формы. И у инженеров Кремниевой долины родилась поистине гениальная мысль.

Они рассуждали примерно так: если система состоит из параллельных нейронных сетей, каждая из которых имитирует отдельного человека, почему бы не представить отчет о ее работе в виде диалога нескольких виртуальных персонажей, каждый из которых объяснял бы общественности свою точку зрения?

Любой из этих персонажей был просто репрезентацией боевого канала обработки информации. Но, затратив совсем немного машинных ресурсов, ничего не стоило придать ему человеческий вид и перевести язык его внутренних кодов в человеческую речь.

Можно было даже оформить весь отчет в виде симпатичного мультика вроде «Симпсонов». Это практически не отражалось на работе системы — по сравнению с боевыми вычислениями, которыми она занималась, такая антропоморфизация была детской игрой. Нейронной сети, способной имитировать действия боевых пилотов, ничего не стоило заодно смоделировать и ток-шоу.

Проблема «человеческого опыта» была и в этом случае решена просто и элегантно: в систему загрузили архив всех американских телевизионных ток-шоу — то есть всех вообще. Используя свои базовые алгоритмы, «F.D.O.M.» могла выбирать из огромного богатства уже произнесенных реплик, и даже модифицировать их, создавая потрясающий эффект живого человеческого присутствия. На пике нагрузки это отнимало не больше двух процентов общей мощности системы, которая имела запас около десяти процентов.

Теперь «F.D.O.M.» выдавала видеоотчет. Выглядел он так: у большого монитора в условном подобии студии сидели несколько виртуальных фигурок простецкого вида (каждый раз система моделировала их заново, чтобы не создавать впечатления, будто у нее внутри обитают некие искусственные существа). Картинка, на которую смотрели фигурки, соответствовала тому, что видели камеры «Либерейтора». При появлении врагов фигурки просыпались и вступали в диалог, напоминающий эмоциональное ток-шоу категории «B».

Вряд ли такая передача выдержала бы конкуренцию на телевидении.

Но в смысле public relations смоделированный подобным образом диалог чрезвычайно выгодно отличался от переговоров живых операторов.

Военные обычно говорили коротко и по делу:

— Долбани-ка еще раз вон по тому ублюдку в канаве.

А виртуальные фигурки в той же ситуации изъяснялись так:

— Ужасно, что приходится открывать огонь по живому человеку. Но когда я думаю о наших ребятах, в которых может попасть пущенная им пуля, когда я думаю, что он может прятать в кармане гранату или пистолет, я понимаю — этот трудный, практически невозможный выбор все-таки придется сделать…

Хитрость Пентагона заключалась в том, что сгенерированные подобным образом виртуальные отчеты не навязывались общественности — они хранились в военном архиве и имели статус секретной информации. Но если какой-нибудь свисткодув из числа военных решался слить информацию на «Wikileaks» или в другие СМИ, те получали вместо жареного компромата патетическое ток-шоу, где все принимаемые решения были настолько безупречны с нравственной точки зрения, что никакой возможности обвинить в смерти гражданских лиц кого-то, кроме мертвых гражданских лиц, просто не оставалось.

[-=Игорь=-]

29 минут назад, НеЯ сказал:

Умный робот - это какой? Какие задачи должен, по-вашему, выполнять робот, чтобы считать его умным? М?

Например, беспилотники - умные роботы у Вас или ещё НЕ очень? )))

да, если робот может взлететь, выполнить поставленную задачу, вернуться, он уже умный. Дальше можно усложнять задачи- действовать в составе группы. Но это пока всё касается одного типа роботов- беспилотников.

На мой взгляд основная посильная для сегодняшних технологий задача- это добиться автономности существования робота без участия человека в течение длительного времени с возможностью выполнения чётко определённого круга задач. Беспилотники вряд ли пока могут на это претендовать, т.к. их нужно заправлять, обслуживать, добывать для них топливо. Но всему этому можно научить других роботов.

[Kristopherjan]

2 часа назад, Nitrino сказал:

Мы говорим не о фантазиях и книгах, а о реальном мире.

Откуда робот узнает какие цели ему ставить и какие исполнять ? 

Дык, и человеку вменены, достаточно просто звучащие цели - выживать(плодиться и размножаться) и господствовать!