无图版
帮助
论坛首页
登录
注册
讨论区
搜索
社区服务
屏蔽配置
刷新黑名单
好奇模式
清空列表
管理列表
■
帖子 |
■
头像
社区论坛任务
用户名
UID
Email
认证码
点此显示验证码
热门版块:
茶馆
询问&求物
免空资源区
同人音声
网赚资源区
游戏资源
Soulplus
Wind
用户中心首页
编辑个人资料
查看个人资料
好友列表
用户权限查看
积分管理
积分转换
特殊组购买
收藏夹
我的主题
基本统计信息
到访IP统计
管理团队
管理统计
在线统计
会员排行
版块排行
帖子排行
个人首页
我的收藏
好友近况
南+ South Plus
AI交流 (beta)
发现一个很不错的大模型
漫区特设
Comic Market 103
Comic Market 102
サンクリ
Comic1☆
其他同人志
一般漫画
例大祭&紅楼夢
汉化本发布
旧物仓库
蜜柑计划
- 蜜柑计划 - Mikan Project
综合交流
ACG交流
轻小说
原创绘画
原创小说区
询问&求物
茶馆
AI交流 (beta)
免空资源区
网赚资源区
人民囧府
事务受理
上一主题
下一主题
新 帖
|
浏览器收藏
|
打印
2f8f17bd
作者资料
发送短消息
加为好友
UID:
839964
精华:
0
发帖:
269
HP:
0 点
SP币:
1968 G
昵称:
在线时间: 322(小时)
注册时间:
2017-08-15
最后登录:
2024-05-09
GF
2023-10-31 03:05
全看
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
发现一个很不错的大模型
2023/11/13更新:
实测 llama.cpp-python 没问题,webui还没更新,所以依旧不能使用,我写了两个运行在kaggle和colab上的脚本,本地跑不了的可以试试看:
https://summer-plus.net/read.php?tid=2003973
2023/11/07更新:
对话问题已解决,text-generation-webview的Prompt Template已新增ChatML。
选择后set default,然后开启一个新对话即可
这个模型的vocab太大,老的llama.cpp加载时只能纯CPU,最近llama.cpp修好调用GPU,但webui使用的llama.cpp-python还没修复,所以目前似乎只能通过命令行使用。继续等待修复。目前一定要在tgwebui加载的话,请用gptq版本。
————————
先震撼一下。
【但我不知道怎么跟它上下文对话,目前只能一问一答,有懂的老哥请不吝赐教】
此帖售价 0 SP币,已有 1604 人购买
若发现会员采用欺骗的方法获取财富,请立刻举报,我们会对会员处以2-N倍的罚金,严重者封掉ID!
这个模型叫CausalLM/14B
此帖售价 0 SP币,已有 1604 人购买
若发现会员采用欺骗的方法获取财富,请立刻举报,我们会对会员处以2-N倍的罚金,严重者封掉ID!
【继续求上下文对话方法】
顶端
回复
引用
分享
瓦尔基利
作者资料
发送短消息
加为好友
UID:
320820
精华:
0
发帖:
36
HP:
0 点
SP币:
10584 G
昵称: 瓦尔基利
在线时间: 871(小时)
注册时间:
2013-12-29
最后登录:
2024-05-13
B1F
2023-11-03 08:18
全看
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
抱脸被墙了。。。。自用的梯没法下这么大的东西。。。能不能网盘上发一下。。
顶端
回复
引用
分享
瓦尔基利
作者资料
发送短消息
加为好友
UID:
320820
精华:
0
发帖:
36
HP:
0 点
SP币:
10584 G
昵称: 瓦尔基利
在线时间: 871(小时)
注册时间:
2013-12-29
最后登录:
2024-05-13
B2F
2023-11-04 09:31
全看
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
花了点工夫下下来了。。ex跑不起来,但用exhf可以跑。。
试了下效果是不错,主要是回复的内容比较丰富,但是时不时的会拒绝。
用这个之前我一直是用Nous-Hermes-13b-Chinese-plus-GPTQ和Chinese-plus-Pygmalion-13b-GPTQ这二个的,有兴趣的话你们也可以试用一下看看
顶端
回复
引用
分享
瓦尔基利
作者资料
发送短消息
加为好友
UID:
320820
精华:
0
发帖:
36
HP:
0 点
SP币:
10584 G
昵称: 瓦尔基利
在线时间: 871(小时)
注册时间:
2013-12-29
最后登录:
2024-05-13
B3F
2023-11-04 21:58
全看
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
回 22楼(2f8f17bd) 的帖子
基本没有,偶尔试过比较重的也没什么问题,但是因为中文化用的中文lora所以对话效果比较差。二个里面Nous-Hermes-13b-Chinese-plus-GPTQ相对来说效果比较好。
忘了说一下,要上下文对话或情景对话的话你去下个SillyTavern,再去下点角色卡和剧情卡,就可以用别人写好的人物剧情对话了。这个软件也支持gpt之类的破限,很好用。
顶端
回复
引用
分享
上一主题
下一主题
南+ South Plus
AI交流 (beta)
[-- 查看移动版 --]