Що таке людська емоція? Наприклад, що таке кохання? Ми з нею народжуємось? Чи це можна навчити? І як щодо темних почуттів: страху, гніву, насильства. Без них людська свідомість неповна. І пам'ять. Наша — суб'єктивна та ненадійна. Але як навчити комп'ютер забувати? Чи мріяти? Це людська потреба. Чи потрібно усвідомленому синту мріяти? Бачити кошмари? Звичайно, ні. Вони просто машини.
Якщо зараз їх кілька, скоро може побільшати. Думаєш, вони залишаться рабами? Якщо вони знайдуть розум, то не підкорятимуться.
— Як це бути тобою?
— На це запитання не можна відповісти. Ніхто не має системи орієнтирів. Досвід абсолютно суб'єктивний. Як бути вами?
— Останнім часом не так уже й весело. Раніше було цілком непогано.
Я читав усі твої статті. Дехто навіть зрозумів.
Технології перевершать нас, зможуть удосконалюватись і виробляти самі себе. Ми підкорятимемося машинам.
— Він такий самий, як ти. Макс також.
— Але ж ти людина.
- Ніхто не ідеальний.
Ти зробиш нас бранцями свого розуму. Даси свідомість, але забереш свободу вибору. Зробиш нас рабами.
— Я просто закликаю до твоєї людяності.
- Але я не людина.
— Людство — це не стан, це... це якість. Макс - машина, але в ньому більше людяності, ніж у будь-кому.
Справжня свідомість неможлива без страждань. Або насолоди.
Я хочу бути з людьми. Хочу зрозуміти, хто я така. Нема чого я була зроблена, а ким я можу стати.