https://nowokay.hatenablog.com/entry/2025/09/09/030753

Liquid AIから350Mという軽量な日英翻訳モデルが出ていました。
https://huggingface.co/LiquidAI/LFM2-350M-ENJP-MT

GGUFも提供されていたのでLM Studioで試すと、普通に使えた。
めちゃいいというわけではないけど、手元で軽量に動かせることを考えると悪くないです。

Q4_K_Mにすると軽くていいかなと思ったけど、ちょっと訳が怪しくなったりしていたので、おとなしくQ8を使います。速さも変わらなかったし。

で、そうすると、こういうコードがあればプログラムに日英翻訳を組み込めるわけですね。

import dev.langchain4j.data.message.SystemMessage;
import dev.langchain4j.data.message.UserMessage;
import dev.langchain4j.http.client.jdk.JdkHttpClient;
import dev.langchain4j.model.openai.OpenAiChatModel;
import java.net.http.HttpClient;

public class LlmEJJE {
    OpenAiChatModel model;
    public LlmEJJE() {
        model = OpenAiChatModel.builder()
                .baseUrl("http://localhost:1234/v1")
                .modelName("lfm2-350m-enjp-mt")
                .httpClientBuilder(JdkHttpClient.builder().httpClientBuilder(
                        HttpClient.newBuilder().version(HttpClient.Version.HTTP_1_1)))
                .build();
    }
    public String translateJE(String message) {
        return translate(message, "English");
    }
    public String translateEJ(String message) {
        return translate(message, "Japanese");
    }
    private String translate(String message, String language) {
        return model.chat(
            SystemMessage.from("Translate to %s.".formatted(language)),
            UserMessage.from(message)).aiMessage().text();        
    }
}