Startup Canada

Еще одна ИИ компания решила потратить деньги на исследования сознания у ИИ. Я уже комментировал это направление (обобщенный ИИ), ранее, могу только сказать, что мое мнение - сознание ИИ это миф.

Anthropic только что запустила новую исследовательскую программу, посвященную «моделированию благосостояния», изучая сложные этические вопросы о том, могут ли будущие системы ИИ обрести сознание или заслуживать морального рассмотрения в будущем.

Области исследований включают разработку фреймворков для оценки сознания, изучение показателей предпочтений и дистресса ИИ и изучение вмешательств.

Anthropic наняла своего первого исследователя благосостояния ИИ Кайла Фиша в 2024 году для изучения сознания в ИИ — он оценивает вероятность того, что модели будут сознательными, в 15%.

Инициатива последовала за ростом возможностей ИИ и недавним отчетом (в соавторстве с Фишем), предполагающим, что сознание ИИ является ближайшей возможностью.

Anthropic подчеркнула глубокую неопределенность вокруг этих вопросов, отметив отсутствие научного консенсуса относительно того, могут ли текущие или будущие системы быть сознательными.

Почему это важно: Сэм Альтман ранее сравнивал ИИ с формой инопланетного интеллекта. Вскоре эти модели могут достичь уровня, который изменит то, как мы понимаем сознание и этику в отношении них. Скорее всего, мы увидим раскол, особенно с учетом того, что не существует порога, по которому ИИ можно было бы считать «сознательным» или заслуживающим прав.

Источник.
https://www.anthropic.com/research/exploring-model-welfare?utm_source=www.therundown.ai&utm_medium=newsletter&utm_campaign=anthropic-questions-ai-consciousness&_bhlid=44b6a1b689fab6535cd6a5b4832b355c52b84738

Exploring model welfare Announcing a new research program at Anthropic on model welfare