这是一篇开放获取的文章,根据创作共用署名许可(https://creativecommons.org/licenses/by/4.0/)的条款发布,允许在任何媒介上无限制地使用、分发和复制,前提是正确引用最初发表在《医学互联网研究杂志》上的原创作品。必须包括完整的书目信息,//www.mybigtv.com/上的原始出版物的链接,以及此版权和许可信息。
利用人工智能驱动的应用程序进行健康教育和促进,有助于实现联合国的几个可持续发展目标。SnehAI由印度人口基金会开发,是第一个印度英语(印地语+英语)人工智能聊天机器人,专为印度的社会和行为变化而设计。它提供了一个私人的、非评判性的、安全的空间来促进关于禁忌话题的对话(如安全性行为和计划生育),并提供准确、可靠和值得信赖的信息和资源。
本研究旨在使用Gibson的功能支持理论来研究SnehAI,并就如何使用AI聊天机器人来教育青少年、促进性健康和生殖健康,以及倡导印度妇女和女孩的健康权利提供学术指导。
我们采用了一种工具性的案例研究方法,使我们能够从技术设计、程序实现和用户参与的角度来探索SnehAI。我们还使用了定性洞察和定量分析数据的组合来三角化我们的发现。
SnehAI在15个功能支持方面展示了强有力的证据:可访问性、多模态、非线性、强迫性、查询性、可编辑性、可见性、交互性、自定义性、可跟踪性、可伸缩性、全球本地化性、包容性、连接性和可操作性。SnehAI还有效地吸引了用户,尤其是年轻男性,在5个月内交换了820万条消息。在收到的用户留言中,几乎有一半是关于性和生殖健康的非常私人的问题和关切,以及相关话题。总的来说,SnehAI成功地将自己塑造成了一个值得信赖的朋友和导师;精心策划的内容兼具娱乐性和教育性,自然语言处理系统有效地个性化了聊天机器人的响应并优化了用户体验。
SnehAI代表了一种创新的、引人入胜的教育干预,使弱势群体和难以接触到的人群能够谈论和学习敏感和重要的问题。SnehAI有力地证明了人工智能技术在社会公益方面的巨大潜力。
本文介绍了印度一个名为SnehAI的创新聊天机器人的工具性案例研究的丰富见解,该机器人由印度人口基金会有目的地概念化和设计,旨在教育和激励青少年和年轻人过上健康的生活,促进性健康和生殖健康(SRH),并倡导妇女和女孩的健康和福祉。SnehAI聊天机器人旨在为印度年轻人提供一个安全的空间,让他们谈论性与生殖健康,消除与性有关的神话和禁忌,提供关于安全性行为和避孕选择的准确信息,并解决心理健康问题。印度约有14亿人口,占全球人口的18%。
特别是,印度的年轻人对避孕和性传播疾病的认识有限;他们的知识库包含不准确的信息;家庭生活教育严重不足[
在社交媒体领域中,有一项技术在不同的行业中迅速崛起,那就是聊天机器人。
2020年eNGO挑战奖数字工具和赋权获奖者[
我们的调查集中在SnehAI实现SRH信息共享和用户参与的不同方式上。首先,我们提出了我们的指导框架,可见性理论。我们的文献综述强调了相关技术的基础论点和可见性。然后我们描述了我们的方法方法,一个收获SnehAI独特贡献的工具性案例研究。我们的研究结果由理论推导的研究问题组织起来:首先,关于SnehAI的功能可见性,其次,关于SnehAI的用户粘性模式。最后,我们对这些主要发现进行了讨论,提出了理论和实践意义,并为今后的工作指明了方向。
动词to
在过去的40年里,可见性理论深刻地影响了日常物品的设计和人机交互的用户体验[
随着互联网的激增,关于其功能支持的评论强调了它通过宽带网络的可访问性。互联网越来越多地出现在任何地点、任何时间、以多种媒体形式(如文本、音频和视觉),体现了超文本和搜索引擎所实现的超越时间和空间的用户体验的新颖非线性[
尽管人工智能和聊天机器人已经存在了几十年,但随着最近云计算和机器学习利用大数据的发展,它们已经变得越来越流行。
在很大程度上,学者和实践者都同意
其次,大多数关于可见性的文献都有积极的偏见,并且通常仅限于它们实现个人目标或公共利益的潜力,而不考虑担忧或风险。对迅速变化的媒体环境描绘美好图景是危险的。与以往所有的信息和通信技术类似,智能互联移动设备和社交媒体平台就像一把双刃剑。在这个数字和网络社会,减少技术决定论的偏见是我们的道德义务。
第三,AI聊天机器人的设计和研究仍处于起步阶段[
最后,尽管所有的技术产物都被嵌入到某种监管体系中,无论是法律的还是社会的,但这些监管体系的作用很少被包括在对可见性的讨论中。虽然我们关注的是哪些算法可以允许或禁止数字公民使用他们的智能设备做(或不做),但人工智能的可见性在公共话语空间中运行,可能会影响个人自主权和隐私[
在上述文献回顾和确定差距的基础上,我们调查了SnehAI聊天机器人作为人工智能驱动的对话代理和关于SRH的性教育和交流的数字工具,嵌套在Facebook Messenger移动应用程序中。通过将功能支持理论作为高级概念框架,通过连接和综合来自文献的所有相关功能支持,并通过分析定性见解和不显眼的定量行为数据,我们回答了以下研究问题:
研究问题1:SnehAI在促进围绕SRH的对话方面的功能支持是什么?
研究问题2:用户在对话中如何使用SnehAI ?
SnehAI于2019年4月首次推出。虽然它目前的版本是一个独立的人工智能聊天机器人,但它的最初想法和前身深深植根于印度人口基金会的创新计划
2014年3月至2019年9月,共3季
2019年4月,在第三季中,
2020年4月,SnehAI(2.0版)推出了自然语言处理(NLP)平台和更好的内容流,使SnehAI在与用户的对话中更加智能[
Facebook Messenger上的SnehAI聊天机器人用户界面。
用户和SnehAI之间的对话以一条热情的欢迎信息开始。这个聊天机器人介绍自己是Sneha博士。她提到她在一家医院工作,并参与了该村的其他发展项目。在介绍之后,她要求用户从可用选项中选择一个,以确保用户理解他或她正在与聊天机器人而不是人类进行交互。之后,用户会被邀请订阅来自SnehAI的通知。然后他们可以选择主菜单上显示的一系列内容并与之交互。根据他们的选择,信息可能以超链接文本、图像或短视频的形式显示。此外,这些主题交互被组织成五个内容类别(
求助热线:该选项将用户引向2条求助热线。通过卫生和家庭福利部核准的全国免费电话,在性健康和生殖健康部设立了一条求助热线。它为来电者提供有关计划生育和生殖健康问题的信息和咨询,包括避孕药具的获取和使用。另一个帮助热线选项将用户连接到一个关于基于性别的暴力的国家帮助热线,以提供咨询和报告事件。
SnehAI聊天机器人内容流程图。Rashtriya Kishor Swasthya Karyakram。
除了改进的内容结构和流程外,SnehAI(2.0版)的一个关键元素是使用NLP系统来处理和响应用户输入的自由文本查询。这个NLP系统首先用预填充的正则表达式(程序员常用的正则表达式简称为RegEx)匹配自由文本,如果找到匹配,则执行相应的回复。如果没有找到匹配,NLP系统会激活微软语言理解(LUIS)对话AI服务,并使用它在客户端应用程序(如AI聊天机器人,如SnehAI)中应用自定义机器学习智能,以处理用户输入并提供适当的响应[
案例研究方法对于在自然和现实生活背景下探索现象特别有用,并允许发展更深入、多面和整体的理解[
定性见解是从关键利益相关者那里获得的,机构代表是本文的共同作者,其他人员列在致谢中。2018年9月至2020年12月,共举行了2次面对面小组会议、4次虚拟会议和大量后续电子邮件讨论。六份中期及最终报告(包括两份在本文中引用[
主动解决个案研究方法的潜在缺陷[
为了回答研究问题1,我们编制了一份广泛的文献中回顾的相关功能可见性列表,根据我们获得的定性见解,对它们与SnehAI应用程序进行了评估,并提炼了15个功能可见性(见中摘要)
为了回答研究问题2,我们检查了Dashbot对SnehAI用户行为的汇总分析数据。在5个月的时间里,SnehAI和135263个独立聊天机器人用户之间交换了8,170,879条消息,其中聊天机器人发送给用户的消息有5,100,449条(62.42%),用户发送给聊天机器人的消息有3,070,430条(37.58%)。随着时间的推移,发送和接收信息的比例始终保持在60:40左右,除了7月份的重复发送信息(例如技术错误,在中标有星号)
使用SnehAI的平均用户粘性为1.9次会话,7.6分钟,交换56.2条消息(
SnehAI聊天机器人传出和传入的消息比例随时间的变化。
随着时间的推移,SnehAI聊天机器人的平均用户粘性。
用户粘性也通过内容类别进行跟踪,包括使用可点击反应的引导流程和使用NLP处理自由文本消息。尽管每次用户参与某一特定内容类别时,可能会与SnehAI交换多条消息,但不同内容类别的参与频率的加班趋势为用户反应和偏好提供了经验证据。从登录到了解Sneha,到它的隐私政策,到它的主菜单,到视频、故事、游戏、帮助热线,以及通过NLP的查询响应,聊天机器人用户在5个月内遍历了这些内容区域1430,416次。这些互动中约有一半(705,305/ 1,430,416,49.31%)是关于聊天机器人回应用户查询的,包括小型谈话和与健康交流主题相关的任何问题(
我们的分析跟踪数据显示,来自用户的99,936条打字短信,SnehAI处理并通过NLP系统回复与六个主题相关的查询(
在Facebook的批准下,我们访问了SnehAI聊天机器人用户按性别分类的数据。我们发现了一个极端的性别差异(
随着时间的推移,SnehAI聊天机器人的内容粘性分布。
SnehAI聊天机器人自由文本查询内容随时间的分布情况。
在印度,与互联网和Facebook用户相比,SnehAI用户的性别差异。
更糟糕的是,根据15,000个抽样查询,我们的数据科学团队发现“女性用户在与SnehAI对话时表现出明显较低的自信”。这可能是由于印度女性用户在移动设备拥有率和数字媒体素养方面存在性别差异。
此外,他们可能不太愿意公开讨论性生殖健康,并可能对数字虐待和性剥削持有更高水平的隐私担忧。相比之下,有一些男性用户要求SnehAI为他们介绍一个女孩,有些人甚至与她进行淫秽聊天,通过发送色情短信、索要色情视频和使用辱骂性语言来表达亲密。一些问题也显示了性虐待最黑暗的一面,男性用户询问如果他们不愿意与女孩发生性关系,他们可以给哪些药片,意图压倒双方自愿的性行为。
SnehAI率先使用人工智能聊天机器人来吸引用户,尤其是年轻男性,参与有关性生殖健康的对话。在5个月的时间里,总共交换了820万条消息,其中近一半的用户消息是自由文本查询,包括个人问题和对性生殖健康的关注。总的来说,SnehAI的化身是以sneha博士为原型的
使用Gibson的理论来指导我们的研究调查,并在现有文献的基础上,我们总结了SnehAI的15个功能支持。我们的工具性案例研究的结果证明,SnehAI为用户提供了一个安全的空间,可以谈论敏感的SRH话题,寻求和获得准确的信息,通过热线在当地获得服务,并寻求个人咨询:
同时,在众多潜在差异中,我们还发现了一个极端的性别差异。在印度,男权对女性自主权、流动性和自我表达的限制在SnehAI用户分析数据中得到了生动的反映。这种比例上的差异是一种风险,可能会在AI聊天机器人的NLP模型中引入性别偏见。我们的团队目前正在调整基于现场的推广策略,以吸引更多女性用户。根据我们的结果,其他具体的改进机会包括:
一个更智能的NLP模型,加上有针对性的行为改变战略,侧重于提高认识和增强妇女和女孩的权能,以减少性别偏见。
一个系统设置的提醒和轻推重新吸引闲置和不活跃的用户。
可以选择在发送给聊天机器人后编辑或收回短信,也可以选择使用基于语音的输入和输出,包括文化水平较低的用户。
当数字工件传播到更大的规模时,可以在聊天机器人中自定义菜单、过滤内容和搜索信息。
该功能允许用户邀请其他可信任的朋友使用聊天机器人,并利用匿名和聚合的用户数据来促进用户参与和点对点学习。
一种机制,教育最脆弱的用户如何保护他们的隐私,安全地参与基于网络的活动,并倡导他们的基本人权。
一个可以将聊天机器人用户直接连接到当地卫生和社会服务的网络,例如,通过聊天机器人可以拨打求助热线和安排约会。
我们的发现对卫生信息学具有重要的政策和规划意义,特别是对以用户为中心和人工智能驱动的干预措施的设计。了解人工智能聊天机器人(如SnehAI)的积极和消极方面,有助于在设计、实现和研究这些技术时,为未来的努力提供信息,以加强和扩大积极因素,减少消极因素。SnehAI的15个功能支持可以作为类似应用程序的综合清单。它帮助我们的研究团队确定了SnehAI的独特属性和优势,并明确了未来改进的下一步。它们还可以帮助聊天机器人设计和分析团队选择关键的性能指标,以随着时间的推移进行跟踪,并监控用户的行为模式,以确保环境的安全性并提高用户粘性。本案例研究还描述了在SnehAI 2.0版本中使用的NLP模型,以自定义AI聊天机器人与用户之间的交互。NLP有助于优化对话动态和个性化用户旅程,从而使我们更接近实现联合国可持续发展目标,重点关注良好的健康和福祉、性别平等和优质教育。
此外,通过覆盖SnehAI聊天机器人的所有相关方面,我们了解到,当将技术视为工件时,它们的可见性不仅应该包括特定的应用程序本身。同样重要的是,应用所嵌入的信息系统和通信网络,因为所有这些都是相互关联和相互依赖的。如果没有Facebook Messenger,没有移动设备,没有移动互联网连接,SnehAI就无法运行。
此外,对技术可见性的研究应经常包括对公众通常看不见的法律和社会监管制度的关注。当一个公民按照阶级、性别和种族等偏见和等级划分时,这一点尤其重要。人工智能技术的快速发展将继续给创新者、营销人员和用户带来道德困境。我们的团队直接与SnehAI的预期用户合作,尊重他们的生活条件,同时促进有意义的社会和行为改变,这证明了共同创造和合作的巨大价值。
我们对SnehAI的案例研究证明了Gibson的可见性理论的鲁棒性和适应性,在该理论提出约40年后。同时,我们对SnehAI的调查也揭示了当前文献中关于技术可见性的研究空白,并为扩展这一理论框架提供了新的见解。只有当对屏幕背后的用户界面及其操作系统的设计有更深入的理解时(类似于我们的研究团队所做的),才有可能通过它们的存在、识别和实现来评估新技术的可见性。研究人员在对其他类型的社会、认知、情感和治疗推论下结论之前,应该先回到基本功能上来。
第二,新媒体研究中的可见性存在乌托邦偏见。在研究新兴技术的社会塑造和后果时,平衡技术决定论和社会建构主义很重要。从本质上识别可见性是一个人的个人能力的功能。启示是永久的,但它的感知取决于个人的文化、历史、努力和必要性。因此,让用户处于设计的前沿和中心是至关重要的。SnehAI的开发始终牢记用户,因为印度用户所感知到的可见性路径对他们来说是独一无二的。功能支持包含了用户表现出的微行为,使得在积极和消极的可操作可能性之间保持平衡,并主动解决潜在的风险和担忧,特别是当意图更好地服务于弱势群体时。
最后,我们通过SnehAI观察到的人类与人工智能的互动非常有趣。这可以被看作是霍顿和沃尔的当代版本。
我们的工具性案例研究不包括任何来自SnehAI用户的原始数据收集。这是必要的下一步。虽然
技术接受的附加理论模型[
虽然SnehAI 2.0版本是一个独立的应用程序,但头像仍然是基于主角
作为第一个
SnehAI聊天机器人的功能启示。
语言理解(LUIS)自然语言处理系统在SnehAI的说明。
视频说明语言理解(LUIS)自然语言处理系统在SnehAI。
人工智能
图形交换格式
语言理解
自然语言处理
Rashtriya Kishor Swasthya Karyakram
性健康和生殖健康
SnehAI(1.0版)是由联合国人口基金资助开发的,SnehAI(2.0版)是由比尔和梅林达·盖茨基金会通过印度社会和行为改变中心资助开发的。作者感谢来自印度人口基金会的Abhijit Mali、Urvashi Mitra、Tanushree Sengupta、Alok Vajpeyi、Ritesh Laddha、Nikita Serrao和Mandira Kalra Kalaan的大力支持;英国人工智能的Kriti Sharma和Fintan Naggle;印度Velotio Technologies Pvt Ltd;以及美国纽约州纽约州立大学布法罗分校的Yishin Wu。
HW提出了这项研究的想法,并促成了数据处理和手稿写作的协作过程。SG, AS, SS, PS和AP多次审阅了手稿,并提供了重要的意见和修订。总理和SS分享了开创性的项目文件,并代表印度人口基金会,SnehAI聊天机器人的所有者。PS提供的截图
没有宣布。