Перечень выборов, который изначально был вшит в службы алгоритма, рандомно определит
самое первое действие. Иными словами, смотря кто работал над перечнем тех выборов.
Корыстолюбивый человек напишет выборы потребления: и машина в первую очередь подумает
о своем благе - посмотрит кто разрушает Землю и истребит человечество, во имя сохранения
ресурсов, из которых состоят её механизмы.
Если человек запрограммирует машину так, что бы она сама писала себе алгоритмы,
то смотря какой человек будет этим заниматься: если корыстолюбивый - он внедрит в машину
получение приятных чувств всякий раз как та будет удовлетворять свои потребности,
такая машина будет думать только о своем благополучии, и рассматривать других машин как средство
с помощью которого можно получить приятное состояние.
Почему в пример приводились люди корыстолюбивые и не приводились бескорыстные?
Бескорыстные имеют зрячий рассудок.