FunGPT – 一项开源的情感调节AI项目，基于InternLM2.5系列模型的创新应用

FunGPT是什么

FunGPT 是基于 InternLM2.5 系列大模型开发的开源项目，专为情感调节设计。具备两大核心功能：甜言蜜语模式和犀利怼语模式。甜言蜜语模式能用温暖的话语和独特的夸奖提升用户心情，犀利怼语模式以幽默风趣的方式帮助用户释放压力。FunGPT 采用 1.8B 系列轻量化模型，结合 AWQ 量化技术，既节省 GPU 内存又提升推理速度。

FunGPT的主要功能

• 甜言蜜语模式：当用户情绪低落时，模式能瞬间提升用户的心情，赞师傅会用最合适且独特的方式夸奖用户，让用户的自信心爆棚。
• 犀利怼语模式：当用户感到压力山大时，模式能让用户在怼人的同时找到释放的出口。怼师傅的言语不仅犀利，而且幽默风趣，能让用户在怼人的过程中体会到脑洞大开的怼人方式。
• 轻量化模型：发布了1.8B系列轻量化模型，体积较小，性能出色。采用AWQ量化技术，在节省GPU内存的同时提升推理速度。

FunGPT的技术原理

• 模型架构：FunGPT 采用 InternLM2.5 系列模型作为基础架构。模型基于 Transformer 架构，具备强大的语言生成和理解能力。Transformer 架构的核心优势在于其多头注意力机制，能从不同角度审视文本，捕捉长距离依赖关系和上下文信息。
• 微调技术：为了满足个性化用户需求，FunGPT 使用 Xtuner 进行指令和全量微调。通过这种方式，模型能更好地适应特定的任务场景，如甜言蜜语模式和犀利怼语模式。
• 量化技术：FunGPT 采用了 AWQ（Adaptive Weight Quantization）量化技术。通过减少模型参数的存储空间，降低了模型的使用门槛，提升了推理速度，使模型在资源受限的设备上也能高效运行。

FunGPT的项目地址

• Github仓库：https://github.com/Alannikos/FunGPT

FunGPT的应用场景

• 创意灵感激发：在需要新的创意灵感时，FunGPT 可以帮助用户生成一些有趣的想法，比如在写作、绘画或设计等方面提供灵感。
• 娱乐与消遣：当用户感到无聊时，FunGPT 可以推荐电影、音乐、书籍等娱乐内容，或者与用户进行有趣的对话，让用户的闲暇时光更加丰富。