Ovis2を味見しています👀
日本語も対応しているVLMも増えましたね。
1B、2B、4B、8B、16B、34Bのモデルがあります。
Ampere対応のGPU必要なのでL4以上じゃないと動きませんが、推論は結構早いです(試した範囲だと5~10秒くらい)
1~8BはL4 GPUで動作可能、16BはA100 GPUで動作可能、34BはColaboratoryでは動作不可でした。
Ovis2の1Bをお試し中👀
— 高橋 かずひと@闇のパワポLT職人 (@KzhtTkhs) 2025年3月1日
Ampere対応のGPU必要なのでL4以上じゃないと動かないけど、VRAM使用量は結構少ないし速い🦔 pic.twitter.com/dYidDM1G8L
試したノートブックは以下にコミットしています🦔