Translategemma+LM Studio接入沉浸式翻譯

type
status
date
slug
summary
tags
category
icon
password

翻譯對照

你可能會疑問,為甚麼不用網頁的Goolge的翻譯,我直接給對比大家參觀一下:
先是原文:
2018年10月31日。 ハロウィンで賑わう渋谷駅周辺に突如“帳”が降ろされ大勢の一般人が閉じ込められる。 そこに単独で乗り込む現代最強の呪術師・五条悟。だが、そこには五条の封印を目論む呪詛師・呪霊達が待ち構えていた。 渋谷に集結する虎杖悠仁ら、数多くの呪術師たち。 かつてない大規模な呪い合い「渋谷事変」が始まる―。
翻譯來源
翻譯文本
Goolge翻譯 4/10 評價:句意完整沒問題,但一些專有名詞上全翻成是英式的叫法
2018 年 10 月 31 日,澀谷車站周圍突然落下一道帷幕,原本熙熙攘攘的人群正慶祝萬聖節,許多普通人被困其中。現代最強的魔法師五條悟獨自一人進入了這片區域。然而,他卻遭遇了許多詛咒者和被詛咒的亡靈,他們正密謀封印五條悟。包括虎杖悠仁在內的眾多魔法師聚集在澀谷。這標誌著「澀谷事件」的開始,一場前所未有的大規模詛咒交換
Bing翻譯 3/10 評價:比Goolge差,不知為甚麼多了一些奇怪的字如騎馬
2018 年 10 月 31 日。一座「帳篷」突然在澀谷車站周圍放下,該站因萬聖節而擁擠,許多普通人被困。現代最強咒術師五條悟獨自騎馬前往。然而,詛咒大師與意圖封印五條的詛咒靈正等待著他。虎杖裕司與許多咒術師聚集於澀谷。一場前所未有的大規模詛咒交換「澀谷事件」開始。
DeepL翻譯 9/10 評價:最好的翻譯,最忠於原文且語氣流暢
2018年10月31日。在萬聖節熱鬧非凡的澀谷車站周邊,突然降下「帳幕」,將大批一般民眾困在其中。現代最強咒術師・五條悟獨自闖入現場。然而,企圖封印五條的詛咒師與咒靈們早已埋伏在此。虎杖悠仁等眾多咒術師齊聚澀谷。前所未有的大規模詛咒對決「澀谷事變」就此揭幕──。
本地LLM translategemma-12b-it@q4_k_s 7/10 評價:比傳統機械翻譯強多了,和DeepL翻譯很接近
2018 年 10 月 31 日。 在充滿萬聖節氣氛的澀谷車站周邊,突然降下了一道“屏障”,將大量普通民眾困在其中。 獨自一人闖入其中的,是當今最強大的咒術師——五條悟。 然而,在那裡等待著他的,是企圖封印五條的詛咒師和咒靈。 在澀谷聚集的虎杖悠仁等眾多咒術師。 一場前所未有的大規模咒術對決「澀谷事件」,即將開始——。
本地LLM hy-mt1.5-1.8b 5/10 評價:translategemma的下位版,不知是甚麼原因多了”解除”與原意相反
2018 年 10 月 31 日。 在歡慶萬聖節的澀谷車站周邊,突然降臨了一層“結界”,導致大量普通人被困在裡面。 這時,現代最強大的咒術師——五條悟獨自一人闖了進去。 然而,那裡卻等待著他的是那些企圖解除五條封印的咒術師們。 虎杖悠仁等人也聚集在澀谷,還有許多咒術師們參與其中。 一場前所未有的大規模咒術對決——“澀谷事變”就此開始。
可以見到機械翻譯的Goolge翻譯和Bing翻譯完全不行,而AI翻譯的DeepL翻譯是最好的表現,不過DeepL翻譯免費版有限制50,000 個字元/月,所以本地LLM的優勢來了,雖然不及DeepL翻譯,但比起Goolge和Bing好多了。

如何用LM Studio接入沉浸式翻譯

設定LM Studio:

首先要先下載模型,在左方按查找模型功能,輸入translategemma-12b-it,右下按下載模型
在translategemma模型有4B、12B、27B等模型參數,參數數量越多,效能越強,但需要的運算資源,記憶體也會越大。而模型本身也量化等級如Q2_K,Q4_K_M,LM Studio會按硬體性能自動推薦。
notion image
而因為translategemma是剛出的模型,要先設定一下,在模型操作按設定-Prompt,把提示模板轉為手動,模板設為Alpaca
notion image
notion image
之前按左方的開發者,在Server Settings打開 啟用CORS,選擇加載剛下載的translategemma作為Server的形式運行,在LM Studio的設定就完成了。
notion image
notion image

安裝沉浸式翻譯:

設定按- 翻譯服務 - 新增自訂翻譯服務 - 選 自訂 AI
自訂翻譯服務名稱:”自訂名稱”
自訂 API 位址:http://127.0.0.1:1234/
APIKEY:1 “隨便都可以”
模型:下載的translategemma名稱如”translategemma-12b-it”
notion image
在想翻譯的頁面中把翻譯服務為剛設定好的服務就可以用自己的translategemma翻譯網頁
notion image

最後寫下為何用選用這方案:

本身有試LM Studio和Ollama,但Ollama在設定開啟CORS和除錯太麻煩了
set OLLAMA_ORIGINS=*
ollama serve
模型:translategemma和 hy-mt,本文本身就是因為想試試Google 推出了名為 TranslateGemma 的開源翻譯模型系列,加它有辨識圖片功能,在LM Studio也可以直接試到,不過在低參數下辨識圖片不太行
而騰訊開源模型hy-mt 是最近WMT2025冠軍大模型,在1.8b大小下可能做到這品質也不錯
 
上一篇
Linux網絡流量監視工具Vnstat和VnStati
下一篇
RTL9210B硬碟盒固件更新(v1.33.44)
Loading...