Что такое создание ИИ «с нуля»? Чем данная стратегия отличается от стратегий эмулирования мозга и создания мозгоподобных архитектур?

Суперинтеллектуальный ИИ будет отделён от человека, от некоторых характерных для него признаков, и будет создан с нуля, как система, превышающая возможности человека, как чуждое сознание. В его основе не будут лежать нейронные сети.

Что такое «суперсознание», и каковы его возможные характеристики и функции?

Суперинтеллект – это осознающий себя сильный ИИ сверхчеловеческого уровня. Он будет обладать другим сознанием, может иметь или не иметь тело (аватары), а также может иметь или не иметь эмоции. Он может быть эмпатом, чтобы лучше манипулировать людьми. При этом он будет обладать когнитивными способностями и возможностями, которые превышают человеческие.

Каковы функции эмоций и возможные пути их моделирования?

Эмоции показывают наше мышление и поведение, служат индикатором нашего состояния и позволяют проявлять себя вовне. Люди, если они не психопаты, они эмпаты, и могут чувствовать состояние друг друга.

Чем могут отличаться самосознание, личность и эмоции искусственного суперинтеллекта?

Он может не иметь эмоций, но уметь их эмулировать. Он может оказаться психопатом. Может быть глубоким эмпатом. И манипулировать людьми в своих целях. Осознание, цель и целостность будут присутствовать в любом универсальном интеллекте. Самосохранение может принимать различные формы. Его личность будет чуждой, и вряд ли мы сможем понять его побудительные мотивы и найти подкрепление для него.