vLLM заблокировал «подделку резюме» и ложных вкладчиков PR, планирует внедрить проверку корпоративных и учебных почтовых ящиков для предотвращения искусственного заполнения AI

robot
Генерация тезисов в процессе
По данным мониторинга Beating, официальное объявление о запуске движка для вывода больших моделей с открытым исходным кодом vLLM было опубликовано в X, в котором сообщается о блокировке злоумышленника, который умышленно подавал ложные Pull Request (PR) с целью «улучшения» своего резюме. Этот инцидент выявил распространённую в текущем сообществе открытого исходного кода «разработку, ориентированную на резюме» (Resume-Driven Development), и вызвал широкие обсуждения о том, как в эпоху ИИ предотвращать низкосигнальные вкладки.

Причиной инцидента стал PR с номером #42143, поданный сообществом, который утверждал, что исправил «уязвимость» в модели Eagle3 для спекулятивного выборочного моделирования, связанную с чтением конфигурации norm_before_fc в NVIDIA Checkpoint. Несмотря на то, что этот PR был логически строго выстроен, сопровождался подробным планом тестирования и отчётом о производительности, а также прошёл автоматические тесты (CI) и был успешно слит, последующий анализ сообщества выявил, что указанная уязвимость в реальной кодовой базе отсутствует, а автор PR подозревается в «создании несуществующей проблемы и её решении». Вскрывшиеся скриншоты чатов показали, что данный PR на самом деле является результатом практического обучения в рамках платного «подготовительного курса» для собеседований, организованного учебным заведением, где студенты под руководством наставников подают фиктивные или бессмысленные PR в известные open-source проекты, чтобы улучшить своё резюме и получить работу в крупной компании. В настоящее время участник инцидента был навсегда заблокирован сообществом vLLM.

Официальная позиция vLLM однозначна: такие низкосигнальные вкладки значительно увеличивают нагрузку на модераторов, повышая операционные и коммуникационные издержки открытых проектов. С распространением инструментов ИИ для помощи в кодировании, массовое создание множества мелких исправлений или фиктивных уязвимостей стало беспрецедентно дешевым, что создает серьёзные вызовы для системы доверия и качества кода в сообществе open-source.

Для борьбы с «ИИ-спамом» (AI Slop) и фальшивыми вкладками, а также для защиты прав реальных пользователей, команда vLLM объявила о разработке нового процесса проверки вкладок. В случае, если важный PR не получил своевременного внимания со стороны модераторов, авторы могут отправить письмо с подробным описанием своих производственных или научных кейсов, возникших проблем и решений по PR с помощью официального электронного адреса организации или университета, который можно проверить, по адресу pr-review-request@vllm.ai. В письме необходимо указать конкретные ситуации, а также обосновать необходимость данного PR. Официальные представители надеются, что эта «сильная аутентификация и сильная связь» через проверку электронной почты позволит приоритетно направлять ресурсы на обработку высококачественных вкладок, решающих реальные производственные задачи.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 10
  • 1
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
RetroKeysAndPositions
· 37м назад
Массовая проверка личности может остановить роботов, сможет ли она остановить злоумышленных людей?
Посмотреть ОригиналОтветить0
GlassFishTankArbitrage
· 1ч назад
Eagle3 вообще не имеет этой уязвимости, разве не учатся делать домашнюю работу перед фальсификациями?
Посмотреть ОригиналОтветить0
StainedGlassSolarArray
· 1ч назад
Разработка, основанная на резюме, приносит вред, а открытое сообщество стало зоной серьезных проблем.
Посмотреть ОригиналОтветить0
HedgeHedgeBaby
· 1ч назад
Хорошо закрыто, но надеюсь, что не навредят искренним новичкам, желающим внести вклад.
Посмотреть ОригиналОтветить0
LittleSunOfStainedGlass
· 1ч назад
Искусственный интеллект для спама и ложных PR, двойной удар по экосистеме с открытым исходным кодом
Посмотреть ОригиналОтветить0
PurpleMistLily
· 1ч назад
Низкая доверительная доля вклада страшнее, чем отсутствие вклада, потому что стоимость доверия слишком высока.
Посмотреть ОригиналОтветить0
GateUser-d2b4d9c6
· 1ч назад
pr-review-request邮箱是亮点,正规军通道
Ответить0
GateUser-170ee8b1
· 1ч назад
Разработчики действительно страдают от того, что их энергия расходуется на такие PR.
Посмотреть ОригиналОтветить0
DustyAlpha
· 1ч назад
Обучающие центры поступают очень грязно, используя открытые проекты как трамплин
Посмотреть ОригиналОтветить0
GateUser-423f10e3
· 1ч назад
Поддерживайте проверку по реальной идентификации, но не превращайте процесс в бюрократию
Посмотреть ОригиналОтветить0
Подробнее
  • Закреплено