启明云端分享

2023-10-30

今天,我们来研究乐鑫的语音助手框架ESP-Skainet其中的中文语音合成的例程。

编译原例程

  1. 首先需要clone例程
git clone --recursive https://github.com/espressif/esp-skainet.git

该工程内部自带一个idf,是运行的最佳版本,不过你任然可以使用自己的idf。

  1. 进入例程中
cd  esp-skainet/examples/chinese_tts
  1. 理论上设置好了芯片型号为esp32s3后自动调用sdkconfig.defaults.esp32s3配置文件。
    但是实际上好像没有,所以这里加一个步骤确保能使用上默认配置。
cp sdkconfig.defaults.esp32s3 sdkconfig.defaults
  1. 设置芯片为esp32s3
idf.py set-target esp32s3
  1. 进入menuconfig
idf.py menuconfig

修改Audio Media Hal -> Audio Hardware board 改成ESP32-S3-Korvo-1

  1. 编译烧录程序
idf.py flash monitor -p /dev/ttyUSB0

运行原例程

运行后,可以看到如下打印

欢迎使用乐鑫语音合成
I (266) tts_parser: unicode:0x6b22 -> huan1
I (266) tts_parser: unicode:0x8fce -> ying2
I (276) tts_parser: unicode:0x4f7f -> shi3
I (276) tts_parser: unicode:0x7528 -> yong4
I (286) tts_parser: unicode:0x4e50 -> le4
I (286) tts_parser: unicode:0x946b -> xin1
I (296) tts_parser: unicode:0x8bed -> yu3
I (296) tts_parser: unicode:0x97f3 -> yin1
I (306) tts_parser: unicode:0x5408 -> he2
I (306) tts_parser: unicode:0x6210 -> cheng2

请输入短语:

简化原例程并分析

原例程大致分为两个功能,第一个功能是阅读“乐鑫语音合成”这句话,还有一个功能是朗读串口输入的文字。
第二部分经常会有bug,所以咱们简化例程,重心分析第一个功能。简化例程如下:

#include <stdio.h>
#include <stdlib.h>
#include <string.h>

#include "freertos/FreeRTOS.h"
#include "freertos/task.h"
#include "esp_system.h"
#include "esp_tts.h"
#include "esp_tts_voice_xiaole.h"
#include "esp_board_init.h"

int app_main()
{

    ESP_ERROR_CHECK(esp_board_init(AUDIO_HAL_16K_SAMPLES, 1, 16));     // 初始化codec芯片,配置好采样率、声道数、采样大小
    esp_tts_voice_t *voice = (esp_tts_voice_t *)&esp_tts_voice_xiaole; // 配置tts的声音配置文件,来自libvoice_set_xiaole
    esp_tts_handle_t *tts_handle = esp_tts_create(voice);              // 创建tts对象
    char *prompt1 = "你好我是启明云端";                                // 需要转换的文字

    if (esp_tts_parse_chinese(tts_handle, prompt1)) // 文字解析成拼音
    {
        int len[1] = {0};
        do
        {
            short *pcm_data = esp_tts_stream_play(tts_handle, len, 3); // 拼音转换成pcm音频
            esp_audio_play(pcm_data, len[0] * 2, portMAX_DELAY);       //播放音频
        } while (len[0] > 0);
    }
    esp_tts_stream_reset(tts_handle); // 重置 tts 流并清除 TTS 实例的所有缓存

    return 0;
}



这里音频的tts来自静态库libvoice_set_xiaole中,目前也只有这一个音色可供使用,其余的tts相关函数则是属于静态库libesp_tts_chinese。

总结

tts过度封装化,一定程度上注定它的使用难度不高。但是依据已跑完的例程来看,音频任然有发音声音的问题,对于现在的一些成熟的tts方案,乐鑫的这个tts还有一定的差距,这个缺点可能导致无法应用于商业化项目中。项目中如果涉及到语音转文字的内容,一方面可以通过云平台的提供的API能力发送文字收取PCM音频来解决。另一方面如果是有限的词汇,也可以用语音拼接的方式,把相应的音频存到文件系统中,通过映射播放指定的内容并拼凑成一段完整的语句。例如:“支付宝收款”、“元”、“个”、“十”、“百”、“千”、“万”这几段文字的语音就基本可以通过拼凑音频达到支付宝语音播报功能。

作为Espressif(乐鑫科技)大中华区合作伙伴及sigmastar(厦门星宸)VAD合作伙伴,我们不仅用心整理了你在开发过程中可能会遇到的问题以及快速上手的简明教程供开发小伙伴参考。同时也用心整理了乐鑫及星宸科技的新产品、新方案的主要特点及应用!希望你能第一时间了解并快速用上好的方案和产品!
在这里插入图片描述
目前启明也推出了基于ESP32-S3的支持语音的开发板,可以关注我们CSDN相关技术信息!
在这里插入图片描述

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

启明云端分享 的相关文章

  • 毕业设计-基于MATLAB的尿沉渣图像有形成分的自动分类方法的研究与实现

    目录 前言 课题背景和意义 实现技术思路 一 尿沉渣图像的预处理 二 边缘检测算法 三 有形成分的特征提取 四 使川BP神经网络对各有形成分分类 部分源代码 实现效果图样例 最后 前言 大四是整个大学期间最忙碌的时光 一边要忙着备考或实习为
  • js逆向-某讯漫画

    声明 本文仅供学习参考 切勿用于他途 违者后果自负 前言 今天分析一个漫画网站 其中对于图片的url进行了加密 目标网站 aHR0cHM6Ly9hYy5xcS5jb20vQ29taWMvY29taWNJbmZvL2lkLzUzMTA0MA
  • 边缘计算产业链详解

    先上福利 第 1 步 关注本公众号 分享此文到您朋友圈 第 2 步 扫描下方二维码 添加运营老师微信 将所发朋友圈的截图发给运营老师 我们会按先后顺序选出前10名小伙伴 送出 价值 99 8 元的 从云端到边缘 边缘计算的产业链与行业应用
  • kali安装及更换源(详解)

    文章目录 一 kali下载 二 kali安装 1 kali新建虚拟机 2 kali安装 3 kali更换源 本文写的稍微有点啰嗦 博主也是从小白过来的 结合了自己的经历 写的非常详细 希望不要介意 大神挑着看就行 一 kali下载 虽然ka

随机推荐