Workflow
视觉语言模型安全升级,还不牺牲性能!技术解读一文看懂|淘天MMLab南大重大出品
量子位·2025-01-17 11:22

PSA-VLM 投稿 é‡ã½½ [ å… ¬ä¼-ål QbitAI 模孭­­­­­­­­­­­­­­­­­­­­­­­­­­­­­­ 当"多模æ€â€â€œè·¨æ¨¡æ€â€œˆ¤¸ºä¸âſ 蘻挡的AI趋⊿时, 多模æ€Âœºæ™¯ä¸‹çš"安全挑战尤其庹当引åÍ㺧å¦ç "å"界的æˆïæ"§€' ⺔㯹挑戨,æ·ື天醇团未æÆ稟活å®ÊªŒå®¤å½éˆŸèľæ‰‹âԲ䪬大å¦ã€Ө‡ñº†å¤§å¦ã€œ¯¸ä¸æ— ‡MMLabæಡಿªªªª†ä¸€ç§â…¨æ−ºçš"视觉è¯è¨€æ¨¡å­­ 켈½½‰ 安全⯹é½æ−¹æ³•, PSA-VLM ്1¼ˆProgressive Safety Alignment for Vision-Language Models) 。 ԲՏΑ-VLM通过៰àºԹե¦,ἀ¿µç"¶é¢´æ¨¡åΓ î¼´CBM) çš"æ¶æ"âˆæ–°ï¼Œá….Ю¸æ¨¡åι✨繟æ´çºæ¡ˆæ— ¶å¹²é¢"模åℓςš"ä¸é—'层概念预测,ä»Ð€Œä¼ˆâŒ–大模åℓÇš"最终å½ß¤Ώ½Œæ˜¾è¹— æಡಿ‡VLM在⺔对视觉安全飴险方é ...