成果 | 人智协同赋能“老漂族”心理支持:基于多模态大模型的个性化回忆干预系统RemiHaven

作者:张雪琛 发布时间:2025-03-25 10:23:33 来源:复旦老龄研究院+收藏本文

复旦计算机学院与复旦老龄研究院跨学科研究团队AI4SS的最新跨学科研究成果:“RemiHaven: Integrating 'In-Town' and 'Out-of-Town' Peers to Provide Personalized Reminiscence Support for Older Drifters” 被CCF A类会议The ACM CHI Conference on Human Factors in Computing Systems (CHI) 会议录用。论文第一作者是硕士生张雪琛。


本研究通过多模态大模型(MLLMs)与社会科学理论的深度结合,构建了一款面向“老漂族”群体的个性化回忆支持系统——RemiHaven。论文探讨了“老漂族”在社交联系减少和文化适应困难下的心理健康挑战,并深入分析了其回忆支持需求。针对传统回忆干预方式因回忆材料缺失和社交资源匮乏而受限的问题,研究探索了生成式AI在老年心理健康干预中的应用,提出了一种可扩展、个性化的回忆干预机制。RemiHaven 依托 MLLMs 强大的生成能力,结合“同乡伙伴”与“异乡伙伴”双重交互模式,既体现了社会支持理论的核心思想,也进一步验证了 AI 在促进社会融合和改善老年群体心理健康方面的潜力。实验结果表明,该系统能够有效提升回忆体验、增强情感共鸣,并对老年心理健康产生积极影响,同时揭示了其在实际应用中的潜在挑战。研究不仅拓展了 AI 在社会科学中的应用场景,也为未来智能社交支持系统的设计提供了重要参考,推动了 AI 与老年学、心理学等学科的跨学科融合。


会议简介


图片


ACM CHI 2025 (The ACM Conference on Human Factors in Computing Systems)是国际公认的人机交互顶级学术会议,其在学术界和工业界享有极高声誉,是中国计算机学会推荐的A类国际学术会议。与其它计算机科学会议相比,CHI规模庞大,更加注重人与技术之间的互动、探索创新的交互方式、新兴技术在真实世界的应用、以及技术使用中的社会影响与伦理因素。今年CHI2025会议录用结果公布,本次会议共收到5014份完整投稿,最终录用1249篇,录用率为24.9%。该会议计划于2025年4月26日至5月1日在日本横滨召开。


论文简介


RemiHaven:

集成“同乡伙伴”和“异乡伙伴”以为老漂族提供个性化回忆支持


图片


论文链接:

https://arxiv.org/abs/2503.01358


随着社会流动性的加剧和老龄化社会的发展,越来越多的老年人为了与家庭团聚或帮助子女减轻负担而离开家乡,选择迁居至子女所在的城市,被称为“老漂族”。据《中国移民报告》,过去 20 年中,中国的老年流动人口从500万增长至1800万,其中77%为“老漂族”。然而,相较于其他老年移民群体,“老漂族”面临着社交联系减少、数字素养较低、文化适应困难等特殊挑战。这些障碍使得他们难以融入新的城市环境,孤独、失落感和抑郁情绪随之增加。研究表明,回忆干预是改善老年人心理健康的重要方法,它能够释放消极情绪、增强幸福感、提高自尊,适当的回忆还有助于改善老年人的认知能力,促进健康老龄化。对于“老漂族”而言,回忆更是帮助他们维持自我身份认同、维系情感联系、缓解迁移带来的心理不适的重要手段。研究发现,环境记忆可以在过去和现在之间建立心理纽带,帮助老年人在陌生的环境中寻找归属感和安全感。传统的回忆干预方式主要依赖于实体回忆材料(如老照片、纪念品)唤起回忆,激发回忆对话。然而,对于“老漂族”而言,迁移往往导致回忆材料缺失,并减少社交资源的获取机会,进一步降低了这些干预方法在该群体中的有效性。因此,我们提出一个关键问题:如何设计一个能够提供个性化回忆体验的智能支持工具,以帮助“老漂族”克服回忆材料缺乏等潜在障碍?


大语言模型(LLMs),尤其是多模态大模型(MLLMs)的发展,为解决上述问题提供了新的可能性。我们的研究不仅仅是利用LLMs的交互能力和内容生成能力,而是专注于定制化MLLMs,以更好地满足“老漂族”的特定回忆需求。通过调整 MLLMs,使其在缺乏实体回忆材料的情况下仍能生成真实而个性化的回忆内容,包括回忆对话、图像和文本,使其能够与“老漂族”的生活经历产生共鸣,从而打造更具沉浸感的回忆体验。


在本研究中,我们主要完成了三项核心工作。首先,我们开展了两阶段形成性研究,以系统性地理解“老漂族”当前的回忆实践及其对未来回忆支持工具的期望。在第一阶段,我们通过半结构化访谈,揭示了“老漂族”在回忆实践中面临的独特挑战。在第二阶段,我们通过基于故事板的用户研究,进一步探索了参与者对回忆支持工具的需求和期望。通过这一迭代研究过程,我们总结出了五个关键设计目标。其次,基于上述设计目标,我们开发并优化了 RemiHaven,一款专为“老漂族”设计的回忆支持工具。该工具的核心是一个基于MLLMs的对话Agent,并集成了两个关键模块。提示词组织(Prompt Organization)模块用于聚合并结构化用户对话及背景信息,以提供更加个性化的回忆支持;回忆材料生成(Memory-Material Generation)模块则能够生成个性化的多模态内容,包括图像和文本,以增强回忆体验。RemiHaven 的一大创新点在于其支持两种不同的交互模式:其一是“同乡伙伴”对话模式,模拟熟悉的社交环境,帮助用户回忆家乡往事,增强情感共鸣;其二是“异乡伙伴”对话模式,提供陌生的社交背景,鼓励用户讲述自己的故事,增强表达意愿。此外,RemiHaven 生成的内容可以整理成个性化的回忆故事集,用户可将其导出和分享,以便更好地保存珍贵的记忆。最后,我们招募了 10 名“老漂族”用户,对 RemiHaven 进行了回忆支持效果的评估。研究采用了问卷调查和半结构化访谈,并结合技术接受模型(TAM)以及工具与设计策略的匹配度进行测评。定量和定性研究结果显示,RemiHaven 显著改善了用户的回忆体验,并对参与者的情感产生了积极影响。此外,我们的研究进一步揭示了为“老漂族”设计回忆支持工具的关键见解,并探讨了生成式 AI 在回忆干预中的广泛应用前景。


图片

图1 RemiHaven系统截图


用户研究


为了指导我们的设计过程,我们开展了一项形成性研究,旨在深入了解“老漂族”群体在回忆实践中的需求与挑战。我们最终招募了13名“老漂族”成员,进行了半结构化访谈和基于故事板的用户研究,并从中得出了以下五个关键设计目标:


D1:允许用户根据个人偏好配置回忆助手的控制级别(即熟悉家乡的引导者和对家乡感兴趣的倾听者);

D2:确保助手能够访问用户的背景信息,以生成与其回忆相符的对话和材料;

D3:使用户能够修改生成的内容,允许根据需要对特定区域进行调整;

D4:回忆助手能够为用户补充细节、整理记忆,并允许将回忆内容导出为实体的生活故事书;

D5:集成语音互动功能,并提供温和友好的语音反馈,以增强老年用户的可访问性和易用性。


模型构造


根据设计目标,我们开发了RemiHaven,这是一款个性化回忆支持系统,旨在帮助“老漂族”在社交联系减少和回忆材料缺失的情况下更好地回忆过去、增强情感共鸣。通过利用多模态大语言模型(MLLMs),RemiHaven 集成了“同乡伙伴”与“异乡伙伴”双重交互模式,提供个性化、互动性强的回忆体验。


图片

图2 RemiHaven框架设计


1.用户配置模块


为了生成个性化回忆内容,RemiHaven 在用户首次使用时会请求其基本信息,包括性别、年龄、家乡等。系统会基于这些信息,结合相关的地理知识和文化背景,补充用户的个性化数据,以用于后续的回忆内容生成。这一设计确保了 RemiHaven 在提供回忆支持时能够符合用户的个人经历,增强回忆内容的真实性和情感共鸣。


2.基于 MLLM 的回忆对话助手


在此模块中,用户可以通过语音或文本与基于MLLMs的回忆助手进行交互。用户可以选择两种不同的对话模式,即“同乡伙伴”模式(In-Town Peers) 和 “异乡伙伴”模式(Out-of-Town Peers),以适应不同的回忆倾向和交互需求。“同乡伙伴”模式模拟用户家乡的熟悉人物,使 RemiHaven 在对话过程中扮演更积极的引导角色,帮助用户回忆家乡场景,并提供回忆触发提示。而“异乡伙伴”模式则更类似于初次见面的朋友,对用户的家乡表现出兴趣,鼓励用户以更自由的方式讲述自己的故事,并按照自己的节奏进行回忆。两种模式提供不同程度的交互控制,以适应用户对引导式回忆或自由回忆的不同偏好。


3.提示词组织模块


该模块负责组织回忆对话中的语境信息,并结合用户的个人背景信息,构建回忆内容生成所需的提示词(Prompts)。在回忆过程中,系统会持续更新对话语境,以确保生成的回忆内容与用户的真实经历相匹配。此外,该模块还能将用户输入的回忆片段进行整理,以便后续用于回忆材料的生成。


4.回忆材料生成模块


在本模块中,系统利用前述的提示词信息,生成个性化的回忆图像和文本,帮助用户重现过去的场景。用户可以与助手进行多轮迭代对话,对生成的回忆材料进行回顾、修改和筛选,以确保最终的回忆内容符合用户的真实体验和情感需求。最终,生成的回忆内容可以被整理成个性化的“回忆故事集”(Life Storybook),用户可选择将其导出和分享,以便长期保存或与家人朋友共同回忆。这一功能使 RemiHaven 不仅是一个回忆支持工具,同时也能帮助用户记录和传承个人的生活经历。


评估与讨论


评估结果表明,RemiHaven成功实现了各项设计目标,并在支持“老漂族”回忆方面展现了巨大潜力。系统不仅能够有效激发用户的记忆,还积极增强了回忆体验,并促进了情感上的益处。通过多样的对话模式,RemiHaven展示了其在满足个性化需求和适应多元使用场景方面的灵活性。然而,仍存在一些关键问题亟待解决,例如如何在用户控制与系统自动化之间找到平衡,此外,系统生成的内容可能存在文化或情境偏差,需进一步提升生成模型的精准度。未来的改进方向包括提升生成内容的个性化与准确性,特别是在文化背景和地方特色方面,同时优化系统适应性,以更好地满足不同用户的需求与使用习惯。


小结


本研究中,我们设计并实现了RemiHaven,一款专为“老漂族”提供回忆支持的工具,以解决该群体在回忆过程中缺乏回忆材料的问题,并为其提供个性化的回忆体验,从而促进情感共鸣和心理健康。通过两阶段形成性研究,我们识别了“老漂族”在回忆支持方面的特殊需求,并开发了一款基于多模态大模型(MLLMs) 的智能工具,集成“同乡伙伴” 和 “异乡伙伴” 两类虚拟角色,以提供不同的回忆交互模式。研究评估结果表明,RemiHaven 能够有效促进用户的回忆,并通过其多模态内容与双重交互模式,帮助用户改善情绪,提升回忆体验。未来,我们将继续优化 RemiHaven,探索其在更广泛人群中的应用,并进一步评估其在长期实践中的整体效果,以完善其在回忆支持领域的应用价值。


作者信息


如果您对本文内容感兴趣的话,可以与作者联系:


张雪琛 

复旦大学计算机学院协同信息与系统实验室硕士研究生

研究方向:AI for 老龄、人机交互、文本建模与分析

联系方式:23210240386@m.fudan.edu.cn



原文链接 | https://mp.weixin.qq.com/s/U29USoNSbLHSncXi_kjW4w