手把手教你快速搭建一个属于自己的大模型聊天软件(聊天app搭建)
在当前AI大模型的热潮中,零基础的编程新手可能会觉得学习成本过高。然而,本文将打破这个障碍,无需任何编程基础,无需特殊网络,更无需花费一分钱。我将手把手地教你构建自己的国内聊天大模型。让我们一起探索这个令人兴奋的AI世界,你准备好了吗?
第一步:python环境准备
下载并安装python环境
https://www.python.org/ftp/python/3.12.0/python-3.12.0-amd64.exe
安装成功
安装成功! 测试一下,能否调用,同时按下win R(win就是开始菜单的那个键)
进入命令行,输入python –version,出现这样的界面则表示成功安装
查看python版本
第二步:安装依赖
继续在刚才打开的窗口执行一下命令安装依赖包
pip install gradio dashscope langchain –default-timeout=100 -i https://pypi.tuna.tsinghua.edu.cn/simple/ –trusted-host pypi.tuna.tsinghua.edu.cn
预计要运行个一两分钟
安装依赖
第三步:创建一个请求的私有key
使用阿里账号登录以下地址https://dashscope.console.aliyun.com/apiKey
在API-KEY管理中创建一个API-KEY
创建key
因为当前阿里的大模型“qwen-72b-chat”刚出不久,目前使用并不收费,所以不用担心费用问题
第四步:执行代码
随便找一个目录创建一个txt文件,如我创建在D:dataai新建 文本文档.txt,打开后将以下文本粘贴进去
import os
import gradio as gr
from langchain_community.llms.tongyi import Tongyi
os.environ["DASHSCOPE_API_KEY"] = "申请一个自己的key"
llm = Tongyi()
llm.model_name = "qwen-72b-chat"
def echo(message, history, system_prompt, tokens):
str = llm.invoke(message)
yield str
with gr.Blocks() as demo:
gr.ChatInterface(
echo,
title="聊天机器人",
theme="soft",
retry_btn=None,
undo_btn="Delete Previous",
clear_btn="清除"
)
demo.queue().launch(server_name="0.0.0.0", server_port=8888)
注意:其中"申请一个自己的key"请改成第三步中你自己创建的私有key
将txt文件重命名成server.py
之后在刚才打开的管理台运行命令
python D:dataaiserver.py
执行命令
第五步: 开始聊天
浏览器请求以下地址http://localhost:8888/
就可以在显示出来的窗口中聊天啦
大模型聊天界面
注意:建议使用google浏览器访问效果更佳,不确定其他浏览器有没有存在兼容问题
至此,一个最简单的聊天大模型就部署好了!