Одновременно с громкими раундами финансирования и выходом на биржу, предлагая при этом приостановить разработку ИИ: Anthropic просто занимается имиджевой безопасностью

robot
Генерация тезисов в процессе
По данным мониторинга Beating, в отчёте «Когда ИИ строит сам себя» Anthropic предложила создать «взаимосогласованный механизм проверяемого приостановления» на основе международного ядерного контроля по договору о запрещении ядерных испытаний.
Отчёт ясно выступает против одностороннего приостановления исследований и подчеркивает, что только при глобальной проверяемости передовые лаборатории смогут синхронно замедлить развитие.
Но технически совместное приостановление невозможно.
Ядерный контроль может полагаться на спутники для слежения за ракетными шахтами, но видеокарты малы, легко скрываются и могут использовать распределённые вычисления.
Чтобы проверить, занимается ли другая сторона тайным обучением, единственный способ — внедриться в все GPU-чипы, электросети и дата-центры по всему миру.
Всесторонний мониторинг не только неприемлем с политической точки зрения, но и технически равносилен пропагандированию тоталитаризма вычислительных мощностей.
На фоне невозможности реализовать техническую проверку предложение о совместном приостановлении больше похоже на «знак освобождения от ответственности за безопасность».
За несколько дней до публикации отчёта Anthropic завершила раунд финансирования на сумму 65 миллиардов долларов при оценке почти в триллион и подала заявку на выход на биржу.
Anthropic установила условие приостановки как невозможность реализации глобальной проверки, что одновременно прокладывает путь к бесконечному обучению и перекладывает ответственность за невозможность остановки на ещё не созданные регулирующие механизмы.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено