vLLM забороняє «розміщення резюме з приписуванням неправдивих PR-внесків», планує впровадити перевірку корпоративних та шкільних електронних поштових скриньок для запобігання штучному наповненню AI

robot
Генерація анотацій у процесі
За даними моніторингу Beating, офіційний реліз рушія відкритого коду для великих моделей vLLM опублікував повідомлення в X, у якому оголосив про блокування зловмисного учасника, який навмисно подав фальшивий Pull Request (PR) з метою «підкреслити» своє резюме. Ця подія викрила поширену в сучасній спільноті «розробку, орієнтовану на резюме» (Resume-Driven Development) у сірій галузі, а також спричинила широку дискусію щодо того, як у епоху штучного інтелекту запобігти внескам із низькою довірою.

Причиною інциденту стала PR з номером #42143, яку спільнота повідомила. У ній стверджувалося, що вона виправляє «уразливість» у моделі спекулятивного зразка Eagle3, яка зчитує конфігурацію norm_before_fc під час роботи з NVIDIA Checkpoint. Хоча цей PR був логічно обґрунтованим, містив детальний план тестування та звіт про продуктивність, і пройшов безперервну інтеграцію (CI), його успішне злиття, спільнота згодом виявила, що ця уразливість у реальному коді відсутня, а автор PR нібито «створював неіснуючі проблеми і їх вирішував». Витеклі скріншоти чатів показали, що цей PR фактично є результатом практичного тренінгу платної «інтерв’ю-підготовчої» організації, де учні під керівництвом наставника подають беззмістовні або підроблені PR у відомі відкриті проєкти, щоб покращити своє резюме і отримати роботу у великій компанії. Наразі, учасника, що причетний до інциденту, вічно заблоковано спільнотою vLLM.

Офіційна позиція vLLM чітко заявила, що подібні внески із низькою довірою значно ускладнюють роботу модераторів, підвищують операційні та комунікаційні витрати відкритих проєктів. З поширенням інструментів штучного інтелекту для допомоги у програмуванні, масове створення великої кількості дрібних виправлень або підроблених уразливостей у PR стає надзвичайно дешевим, що ставить серйозні виклики для системи довіри та якості коду у спільноті відкритого коду.

Щоб протистояти «AI-спаму» (AI Slop) і фальшивим внескам, а також захистити законні інтереси справжніх користувачів, vLLM оголосила про розробку нових процедур перевірки внесків. Для важливих PR, які не отримали швидкої уваги модераторів, автори можуть надіслати електронний лист із підтвердженого офіційного електронного адреси підприємства або університету на pr-review-request@vllm.ai, детально описуючи свій виробничий або науковий кейс, реальні проблеми та ідеї щодо вирішення у цьому PR. Офіційна команда сподівається, що за допомогою цієї «сильної ідентифікації/посилання» механізму перевірки електронної пошти ресурси будуть пріоритетно спрямовані на високоякісні внески, що вирішують реальні виробничі проблеми.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 10
  • 1
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
RetroKeysAndPositions
· 35хв. тому
Перевірка реєстрації може зупинити роботів, чи зможе вона зупинити злочинців-людей?
Переглянути оригіналвідповісти на0
GlassFishTankArbitrage
· 1год тому
Eagle3 взагалі не має цієї уразливості, хіба що підробляють, навіть не вивчили тему?
Переглянути оригіналвідповісти на0
StainedGlassSolarArray
· 1год тому
Розробка, керована резюме, шкодить глибоко, відкритий спільнота стала головною зоною ураження.
Переглянути оригіналвідповісти на0
HedgeHedgeBaby
· 1год тому
Добре закрито, але сподіваюся, що не зашкодить щиро бажаючим внести свій внесок новачкам
Переглянути оригіналвідповісти на0
LittleSunOfStainedGlass
· 1год тому
Штучний інтелект для спаму + фальшиві PR, подвійний удар по відкритій екосистемі
Переглянути оригіналвідповісти на0
PurpleMistLily
· 1год тому
Низкий коефіцієнт внеску страшніший за відсутність внеску, оскільки вартість довіри занадто висока
Переглянути оригіналвідповісти на0
GateUser-d2b4d9c6
· 1год тому
pr-review-request електронна пошта — це перевага, офіційний канал
Переглянути оригіналвідповісти на0
GateUser-170ee8b1
· 1год тому
Зусилля підтримувача витрачаються на таку PR, мені справді шкода
Переглянути оригіналвідповісти на0
DustyAlpha
· 1год тому
Навчальні заклади цим кроком занадто брудні, використовуючи відкриті проєкти як трамплін
Переглянути оригіналвідповісти на0
GateUser-423f10e3
· 1год тому
Підтримуйте ідентифікаційну перевірку, але не дозволяйте процесу стати бюрократичним
Переглянути оригіналвідповісти на0
Дізнатися більше
  • Закріплено