617796.jpg

喵酱

GF  2023-12-23 16:03

求助一下下用Silly Tavern酒馆的诸位

我之前看到,可以用一个模板输出2-3人像群聊一样群聊对话式输出,就是user说一句,Ai用几个对话来回答,想问一下诸位老师这是怎么做到的?方便的话可以指点一下吗?

608645.jpg

注册好难

B1F  2023-12-23 23:59
聊天的时候,左下角三条横线的设置里面有个转换为组,然后往里面加新的卡就可以多人聊天了。不过和楼上说的一样,ai不行,不同作者的卡片适配也不行,操作不起来。一张卡多角色可以,但是用的模型太小的话,生成内容不是自己乱说,就是只有短对话了。只有部分角色调整测试的多人卡用小模型可以正常聊。用70b的大模型也可以。
https://www.chub.ai/characters/Ironanon/poppy-cc273650
这个作者的约德尔人系列做了群聊的调整,用合适的小模型也可以进行群聊。不过群聊的时候最好在对话里明确交流的对象,不然响应的卡可能对不上。
这是我最喜欢的一张卡。

608645.jpg

注册好难

B2F  2023-12-24 10:48

回 5楼(喵酱) 的帖子

不是,说的是模型的大小,基本代表这个模型的处理和生成数。b越大,模拟生成的文字内容越多。大模型可以完美分享角色卡的设定内容,严格按照要求输出,可以跑几万字以上 很多条内容。小模型要不跑不动,要不就是跑几句就不行了,涩不动。
我对这些也不是太理解,小克是网络ai,算是多大的模型我不知道,我都是蹭别人的本地模型共享,所以可以看到各种模型的大小。

608645.jpg

注册好难

B3F  2023-12-24 10:53

回 5楼(喵酱) 的帖子

卡有多大不是看你图片大小的,是看代币数(tokens)。这个数值越大,代表作者加的设定和内容越多。在合适的模型匹配的情况下,就有更多的角色设定规定ai输出的内容。太小的卡不好玩,联想不起来,干巴巴的。太大的卡你的模型不好就处理不动

608645.jpg

注册好难

B4F  2023-12-24 20:37

回 8楼(喵酱) 的帖子

太大了,平时上3000代币的卡都少。

608645.jpg

注册好难

B5F  2023-12-25 20:42

回 10楼(喵酱) 的帖子

什么东西200
输出时间吗?跑一次内容要联系一次上下文分析