記一次翻譯工具的開發-有了它，實現實時翻譯還遠嗎？

• 2020 年 10 月 10 日
• 筆記
• AI, 新技術嘗鮮, 翻譯

有了它，實現實時翻譯還遠嗎？

最近，某水果手機廠在萬眾期待中開了一場沒有發佈萬眾期待的手機產品的發佈會，發佈了除手機外的其他一些產品，也包括最新的水果14系統。幾天後，更新了系統的吃瓜群眾經過把玩突然發現新系統里一個超有意思的功能——翻譯，比如這種：

奇怪的翻譯知識增加了！

相比常見的翻譯工具，同聲翻譯工具更具有實用價值，想想不精通其他語言就能和歪果朋友無障礙交流的場景，真是一件美事，不如自己動手實現個工具備用!一個同聲翻譯工具，邏輯大概可以是先識別，而後翻譯，翻譯能否成功，識別的準確率是個關鍵因素。為了降低難度，我決定分兩次完成工具開發。首先來實現試試語音識別的部分。

輕車熟路，本次的demo繼續調用有道智雲API，實現實時語音識別。

效果展示

先看看界面和結果哈：

可以選擇多種語音，這裡只寫了四種常見的：

偶分別測試的中文、韓文、英文。看着還不錯哦~

調用API接口的準備工作

首先，是需要在有道智雲的個人頁面上創建實例、創建應用、綁定應用和實例，獲取調用接口用到的應用的id和密鑰。具體個人註冊的過程和應用創建過程詳見文章分享一次批量文件翻譯的開發過程

開發過程詳細介紹

下面介紹具體的代碼開發過程。

首先是根據實時語音識別文檔來分析接口的輸入輸出。接口設計的目的是對連續音頻流的實時識別，轉換成文本信息並返對應文字流，因此通信採用websocket，調用過程分為認證、實時通信兩階段。

在認證階段，需發送以下參數：

簽名sign生成方法如下：
signType=v4；
sign=sha256(應用ID+salt+curtime+應用密鑰)。

認證之後，就進入了實時通信階段，發送音頻流，獲取識別結果，最後發送結束標誌結束通信，這裡需要注意的是，發送的音頻最好是16bit位深的單聲道、16k採樣率的清晰的wav音頻文件，這裡我開發時最開始因為音頻錄製設備有問題，導致音頻效果極差，接口一直返回錯誤碼304（手動捂臉）。

Demo開發：

這個demo使用python3開發，包括maindow.py，audioandprocess.py，recobynetease.py三個文件。界面部分，使用python自帶的tkinter庫，來進行語言選擇、錄音開始、錄音停止並識別的操作。audioandprocess.py實現了錄音、音頻處理的邏輯，最後通過recobynetease.py中的方法來調用實時語音識別API。

1. 界面部分：

   主要元素：

   
   root=tk.Tk()
   root.title("netease youdao translation test")
   frm = tk.Frame(root)
   frm.grid(padx='80', pady='80')
   # label1=tk.Label(frm,text="選擇待翻譯文件：")
   # label1.grid(row=0,column=0)
   label=tk.Label(frm,text='選擇語言類型：')
   label.grid(row=0,column=0)
   combox=ttk.Combobox(frm,textvariable=tk.StringVar(),width=38)
   combox["value"]=lang_type_dict
   combox.current(0)
   combox.bind("<<ComboboxSelected>>",get_lang_type)
   combox.grid(row=0,column=1)
   
   btn_start_rec = tk.Button(frm, text='開始錄音', command=start_rec)
   btn_start_rec.grid(row=2, column=0)
   
   lb_Status = tk.Label(frm, text='Ready', anchor='w', fg='green')
   lb_Status.grid(row=2,column=1)
   
   btn_sure=tk.Button(frm,text="結束並識別",command=get_result)
   btn_sure.grid(row=3,column=0)
   
   root.mainloop()
   
   

2、音頻錄製部分，引入pyaudio庫（需通過pip安裝）來調用音頻設備，錄製接口要求的wav文件，並通過wave庫存儲文件：

def __init__(self, audio_path, language_type,is_recording):
    self.audio_path = audio_path,
    self.audio_file_name=''
    self.language_type = language_type,
    self.language=language_dict[language_type]
    print(language_dict[language_type])
    self.is_recording=is_recording
    self.audio_chunk_size=1600
    self.audio_channels=1
    self.audio_format=pyaudio.paInt16
    self.audio_rate=16000

def record_and_save(self):
    self.is_recording = True
    # self.audio_file_name=self.audio_path+'/recordtmp.wav'
    self.audio_file_name='/recordtmp.wav'

    threading.Thread(target=self.record,args=(self.audio_file_name,)).start()

def record(self,file_name):
    print(file_name)
    p=pyaudio.PyAudio()
    stream=p.open(
        format=self.audio_format,
        channels=self.audio_channels,
        rate=self.audio_rate,
        input=True,
        frames_per_buffer=self.audio_chunk_size
    )
    wf = wave.open(file_name, 'wb')
    wf.setnchannels(self.audio_channels)
    wf.setsampwidth(p.get_sample_size(self.audio_format))
    wf.setframerate(self.audio_rate)

    # 讀取數據寫入文件
    while self.is_recording:
        data = stream.read(self.audio_chunk_size)
        wf.writeframes(data)
    wf.close()
    stream.stop_stream()
    stream.close()
    p.terminate()

3、翻譯接口調用部分：

def recognise(filepath,language_type):
    global file_path
    file_path=filepath
    nonce = str(uuid.uuid1())
    curtime = str(int(time.time()))
    signStr = app_key + nonce + curtime + app_secret
    print(signStr)
    sign = encrypt(signStr)

    uri = "wss://openapi.youdao.com/stream_asropenapi?appKey=" + app_key + "&salt=" + nonce + "&curtime=" + curtime + \
          "&sign=" + sign + "&version=v1&channel=1&format=wav&signType=v4&rate=16000&langType=" + language_type
    print(uri)
    start(uri, 1600)


def encrypt(signStr):
    hash = hashlib.sha256()
    hash.update(signStr.encode('utf-8'))
    return hash.hexdigest()



def on_message(ws, message):
    result=json.loads(message)
    try:
        resultmessage1 = result['result'][0]
        resultmessage2 = resultmessage1["st"]['sentence']
        print(resultmessage2)
    except Exception as e:
        print('')

def on_error(ws, error):
    print(error)


def on_close(ws):
    print("### closed ###")


def on_open(ws):
    count = 0
    file_object = open(file_path, 'rb')
    while True:
        chunk_data = file_object.read(1600)
        ws.send(chunk_data, websocket.ABNF.OPCODE_BINARY)
        time.sleep(0.05)
        count = count + 1
        if not chunk_data:
            break
    print(count)
    ws.send('{\"end\": \"true\"}', websocket.ABNF.OPCODE_BINARY)



def start(uri,step):

    websocket.enableTrace(True)

    ws = websocket.WebSocketApp(uri,
                                on_message=on_message,
                                on_error=on_error,
                                on_close=on_close)

    ws.on_open = on_open
    ws.run_forever()

總結

有道智雲提供的接口一如既往的好用，這次開發主要的精力全都浪費在了由於我自己錄製的音頻質量差而識別失敗的問題上，音頻質量ok後，識別結果準確無誤，下一步就是拿去翻譯了，有了有道智雲API，實現實時翻譯也可以如此簡單！