Flutter Web 实现ChatGPT对话与Function Call

站长

2023年10月08日 03:17 · 阅读数 33

Flutter-ChatGPT

基于Flutter Web实现ChatGPT多轮聊天、翻译、Prompt文本生成、企业知识库、本地文档问答、functions_call等功能,页面流式输出采用StreamBuilder Widget实现，各业务模块Repository均提供直连OpenAI接口与python后端API接口流式输出功能实例

Github仓库地址

backend

采用FastApi实现后端LangChain调用OpenAI接口

backend-data

提供初始化向量文档，构建向量索引代码位于vector_index.py

backend-service

function_call.py 提供openai function call相关实例功能
model_query.py 提供python方法调用参数封装模型，涉及文档问答与多轮对话
vector_index.py 提供本地知识库/上传文档向量化相关实例功能

backend-env

提供设置OpenAI参数设置[OPENAI_API_KEY]

# openai
openai.log = "debug"
openai.api_key = os.environ["OPENAI_API_KEY"]

backend-main.py

提供FastApi接口功能实例，包括response stream流处理

backend-requirments.txt

依赖组件配置，可通过terminal执行

pip install -r requirments.txt

frontend

采用Flutter实现Web-UI（Material3）功能，具体功能可查看screenshot，已增加页面字符国际化配置

frontend-db

web浏览器IndexedDB数据库操作与模型实例

frontend-pages

业务功能模块，包含以下内容：

智能对话
智能翻译
智能写作
智能文档
智能任务

各模块遵循repository-model-provider-view分包方式
各view模块按功能复杂度拆分widgets与states 具体拆分粒度按实际业务要求处理，尽可能执行局部刷新
通过[go_router][StatefulShellBranch]实现各页面路由状态管理
通过Riverpod管理Widget UI-States(riverpod.dev/)
页面逐字打印采用SteamBuild Widget实现，具体代码如下message_bot.dart：

    ///
    /// 流式请求[request task stream message]
    ///
    Stream<String>? stream(WidgetRef ref, bool mounted) {
      return
          //ref.read(taskStateProvider.notifier).sendMessageStream('', '', () {
          ref.read(taskStateProvider.notifier).sendMessageStreamApi('', '', () {
        if (!mounted) return;
        ref.read(allowInputTaskProvider.notifier).update((state) => false);
      }, () {
        if (!mounted) return;
        ref.read(allowInputTaskProvider.notifier).update((state) => true);
      });
    }

    ///
    /// StreamBuilder
    ///
    class MessageBotStream extends ConsumerWidget {
      const MessageBotStream(this.stream, this.controller, {super.key});

      final Stream<String>? stream;

      //滚动控制
      final ScrollController controller;

      @override
      Widget build(BuildContext context, WidgetRef ref) {
        return StreamBuilder(
          stream: stream,
          key: Key('${Random().nextDouble()}'),
          builder: (BuildContext context, AsyncSnapshot<String> snapshot) {
            if (snapshot.hasError) {
              return Text("${t.app.error}: ${snapshot.error}");
            }
            if (snapshot.hasData) {
              String content = snapshot.data ?? "";
              scrollEnd(controller, 200);
              if (content.isNotEmpty) return Text(content);
            }
            return const MessageLoading();
          },
        );
      }
    }