Idag delar vi med oss av vårt första forskningsarbete som utforskar diffusion för språkmodeller: Autoregressive-to-Diffusion Vision Language Models
Vi utvecklar en state-of-the-art diffusion vision språkmodell, Autoregressive-to-Diffusion (A2D), genom att anpassa en befintlig autoregressiv vision språkmodell för parallell diffusionsavkodning. Vårt tillvägagångssätt gör det enkelt att låsa upp avvägningen mellan hastighet och kvalitet för diffusionsspråkmodeller utan träning från grunden, genom att utnyttja befintliga förtränade autoregressiva modeller.
Idag delar vi med oss av vårt första forskningsarbete som utforskar diffusion för språkmodeller: Autoregressive-to-Diffusion Vision Language Models
Vi utvecklar en state-of-the-art diffusion vision språkmodell, Autoregressive-to-Diffusion (A2D), genom att anpassa en befintlig autoregressiv vision språkmodell för parallell diffusionsavkodning. Vårt tillvägagångssätt gör det enkelt att låsa upp avvägningen mellan hastighet och kvalitet för diffusionsspråkmodeller utan träning från grunden, genom att utnyttja befintliga förtränade autoregressiva modeller.