09.11.2018. СО: Интересная статья про мораль беспилотных автомобилей: https://elementy.ru/novosti_nauki/433355/Moralnye_problemy_bespilotnykh_avtomobiley_ne_imeyut_universalnogo_resheniya

11.11.2018. ОА: Не разобравшись с человеческой моралью, мы рассуждаем о морали механизмов… Статья, однако, мне показалась интересной.  Отмечу несколько моментов, которые усложняют задачу, если вообще не делают ее невыполнимой.

1. Согласно мнению автора, уровень морали тех или иных действий можно вычислять и планировать. Т.е. мораль зависит не от свойств человека, а от набора «жизненных  доминант» и от их ранжирования. При таком понимании, высокоморальное в одном варианте может оказаться неприемлемым в другом. — Ну, мы это наблюдаем и в реальной жизни.

2. Действия человека подчинены логике, которую, хорошо ли, плохо ли, он чувствует. Однако, кроме того, часто приходится принимать и «волевые решения» не вытекающие из логики. По той причине, что логика не перекрывает все возможные ситуации, и без волевых действий, бывает, их невозможно решить. Беспилотнику такие решения должны даваться с трудом, поскольку обычно они не совсем случайные, учитывают неформализуемые человеческие мотивы.

Вывод: можно и нужно думать на такую тему, но результат едва ли будет удовлетворительный. И прежде чем по такому поводу программировать беспилотники, следует провести всеобъемлющую формализацию морали, что вообще-то полезно и безотносительно к данному частному случаю.

Однако когда (и если) это будет сделано, от человека уже мало что останется. – Все, что можно формализовать, способны воспроизводить «механизмы». Homo Sapiens окончательно потеряет свою уникальность, «божественность», неповторимость.

Что же касается «беспилотников», (по тексту) они перемещаются в среде, которая имеет очень подробную электронную копию. — Известны пол, возраст, статус случайных прохожих. — Слишком много информации! Но при таких обстоятельствах, рассматриваемые ситуации едва ли вообще могут возникать, — движение вычислить и правильно запрограммировать легче, чем разобраться в моральных приоритетах.

В статье «между делом» предполагается, что существует весьма подробная виртуальная копия реальности. Как мне кажется, это верно, — к тому ведут многие пути.

26.12.2018. С.О.: Иду на работу через двор. Перпендикулярным курсом идет дамочка, и, по моим оценкам, мы должны столкнуться на пересечении наших путей. Поскольку дама идет медленнее, чтобы не терять времени, я прибавляю ход, и проскакиваю перед ней первым.

Далее я думаю, что где-то читал о закладке такого метода пересечения перекрестков в беспилотные автомобили. Они должны обладать видеокамерами, возможно, беспроводной сетью передачи данных небольшого радиуса действия и искусственным интеллектом для оценки дорожной ситуации. ИИ сейчас строят на нейронных сетях, что требует обучения. Далее, после обучения, полученные настройки копируются на другие автомобили.

Но давайте немного усовершенствуем систему. В принципе, ничего не запрещает ИИ самообучаться в процессе езды по городу и повышать свой уровень вождения. Из этого следует два момента: 1) беспилотная машина будет немного уникальной и потеря данных ее компьютера будет невосполнимой потерей и 2) не достигнет ли ИИ автомобиля в плане управления собой возможности самого человека с присущими ему ошибками управления?

Что интересно, и первый и второй пункт делает из машины не просто подобие человека, а в какой-то степени самого человека. Если до сего дня компьютер представлял собой кусок железа и если в нем терялись какие-либо данные, они представляли интерес только пользователю компьютера, то беспилотный автомобиль будет интересен сам по себе.

Собственно, уже ясно, что это тренд. В недалеком будущем каждая машина будет представлять собой если не личность, то какое-то ее подобие. После формулирования данного предложения, изложенный факт кажется мне очевидным, однако немного ранее я представлял себе компьютерный разум как нечто более громоздкое, единичное, а — главное — специализированное. Т.е. некий специально созданный разумный компьютер, обладающий уникальными схемами и алгоритмами. Все будет иначе. Разумные машины будут везде — в каждом автомобиле, телевизоре, кофеварке. Все окружающие нас предметы станут разумными.

Тут хочу заметить, что появление разума, скорее всего, связано с необходимостью организма в постоянной оценке ситуации для выработки адекватной реакции на нее (как и в беспилотном автомобиле). Не похоже, что разумом обладает, скажем, устрица. Цепочка ее реакций на раздражители более-менее понятна — это, в общем-то, обычная аналоговая схема. Но наличие связи хищник — жертва потребовало усложнения реакций как первого, так и второго субъекта этой связи, с увеличением общего количества обрабатываемой информации. В итоге победил мозг человека, но разум в животных, очевидно, появился задолго до него (правда непонятно, когда именно и как считать).

Тоже интересный момент. Коль скоро информация является кормом для разума, то, может, разум есть прямое следствие существования информации? Ведь именно разумное поведение жертвы порождает информационный поток, требующий от хищника анализа этой информации для принятия решений. Но, с другой стороны, разве не разумное поведение хищника требует от жертвы усложнения собственного поведения, направленное на искажение информации с которой привык работать хищник, предвосхищая его поведение и дезориентируя его. Круг замкнулся. Выходит, разум и информация есть одно и тоже. Из этого следует, что разум можно вычислить количественно из обычных законов термодинамики. И еще из этого следует, что… разумно вообще все. Устрица, пылесос, камень.

Про камень как-то сложно представить. Интересно сопоставить, что говорит теория об энтропии камня и человека.

Кстати, энтропия алмаза в два раза меньше энтропии графита из-за того что алмаз имеет более упорядоченную структуру. Алмаз в два раза умнее графита!

Что же до умных беспилотных машин, то, как мне кажется, наделение их ИИ, может и понизит безопасность на дорогах, но не решит и половины проблем (а некоторые так и вообще — привнесет). И лишь только потому, что участниками движения тоже будут машины с ИИ, взвешенная реакция которых принципиально будет представлять собой какую-то вероятность, с неизбежной вероятностью ошибки. Причем, эта запрограммированная вероятность ошибки станет уже «средней по больнице», и, возможно, в целом больше, чем по факту у некоторых «биологических» водителей. Не всех, конечно — от этого, безусловно, выиграют те, кто при самостоятельном управлении был «идиотом на дороге» с нулевыми шансами дожить до старости. Но исключив всех идиотов все равно не исключить всех возможных ситуаций. Далее в занижение безопасности будет вносить свой вклад сам ИИ — от недостатка специфического отрицательного опыта или наоборот избытка положительного.

Кроме того, ИИ сделан по подобию биологического мозга, а он универсален в силу разноплановости решаемых задач и работает в стохастической среде, где данные преимущественно неполные и недостаточные для принятия адекватных решений. Т.е. ИИ принципиально не подходит для решения задач по отказоустойчивости. Собственно, используя его в автомобиле мы просто заменяем пьющего, не выспавшегося и злобного водителя трезвым, выспавшимся и миролюбивым. Это, конечно, хорошо, но это не панацея.

Для практически полной безопасности машинами должны управлять безмозглые компьютеры 20-го века, а лучше цифровые схемы. При этом и дорожная инфраструктура должна быть вырождена до логики, где проезд перекрестка с обоих направлений невозможен в принципе, дабы не принимать решений, подобных тому, с чего я начал, — снизить или повысить скорость, чтобы избежать столкновения.

26.12.2018. О.А.: …Что-то мне показалось, что беспилотники будут круче компьютерных сетей. Их отличает мобильность, а также реальное физическое взаимодействие друг с другом и с материей. Как мобильный телефон трансформировался в личный информационный центр, так беспилотники могут стать родоначальниками нового класса квазиживых квазиразумных существ.

К ним примкнут не менее умные летающие аппараты. Уже идут разговоры о стаях беспилотников, которым будет трудно противостоять. Но они пока еще совсем глупые, — как старые традиционные автомобили. Фантазия рисует умных механических насекомых на Земле и в космосе. — Был у Хоккинга проект отправить космический мини корабль весом в граммы (чем не насекомое!) к соседней звезде, разгоняя его лучом лазера. — Лет за 30 можно долететь…

Автомобиль
Искусственный интеллект