# LLM_ASR

**Repository Path**: tianpu/LLM_ASR

## Basic Information

- **Project Name**: LLM_ASR
- **Description**: No description available
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: main
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2024-05-31
- **Last Updated**: 2024-05-31

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

## 大模型语音交互示例代码

### 依赖： 
* llama-cpp-python
* torch
* torchaudio
* tqdm
* gradio

### 模型：
ASR模型需要经过格式转换和压缩。需要的话可以联系我获取 

在model/llm文件夹中放入[MiniCPM](https://huggingface.co/runfuture/MiniCPM-2B-dpo-q4km-gguf)托管库中的模型文件`MiniCPM-2B-dpo-q4km-gguf.gguf` 

### 代码说明
运行ui.py来执行代码

ui.py: 整体框架、用户界面、录音  
llm.py: 加载LLM、生成回复、管理上下文  
asr.py：加载ASR模型、转录文本   

### TODO：
* 更好看的前端