找回密码
 立即注册
  • 便民服务
  • 关注我们
  • 社区新手

[技术] Gchatai已经支持流式传输,2.0版本即将发布!

[复制链接]

马上注册,享用更多功能,让你轻松玩转DOSPY论坛-诺亚方舟号

您需要 登录 才可以下载或查看,没有账号?立即注册

x
在一系列研究后发现之前的程序没有任何性能问题,在请求的时候没有响应的主要原因是
响应时间=http请求时间+ai思考时间

最让我担心的JSON解析大量文本在事实上根本没有占用多久 由于当时我还不了解流式传输,所以这个过程显得异常的漫长。

这几天经过我的研究已经完成了流式传输,目前在我的NokiaE63上运行良好,也没有任何的卡顿。

更新的东西
1.添加对话设置:可以设置ai的对话前提条件,比如限制多少字,以及禁止AI输出Markdown符号(在jiehuan大佬的提醒下,我发现我目前根本实现不了在这里解析Markdown的符号)

2.流式传输(8192bit大佬的提醒):我一直以为是JSON的解析会消耗时间,没想到是ai的线性输出,所以现在改成流式传输后会让程序在视觉上反应迅速!

目前想要改进的
由于textbox并不支持动态更改我还不知道怎么解决这个,只能替换为stringitem
本来想着输出到textbox可以复制这类文本操作,现在的解决办法应该是先输出到stringitem后增加以后按钮可以打开textbox然后进行复制。

附上软件网址
https://www.dospy.wang/thread-27247-1-1.html
分享至 : QQ空间
收藏
回复 使用道具 举报

0 个回复

您需要登录后才可以回帖 登录 | 立即注册