在Reddit上检测阿片类药物使用者的自杀行为:基于机器学习的方法gydF4y2Ba

介绍gydF4y2Ba

背景gydF4y2Ba

目前的阿片类药物危机的特点是，阿片类药物过量导致的死亡人数不断增加;这一数字增加到如此程度，以至于2017年，美国卫生与公众服务部宣布进入公共卫生紧急状态[gydF4y2Ba1gydF4y2Ba]。2016年，美国疾病控制和预防中心报告称，处方和非处方阿片类药物导致4.2万人死于阿片类药物过量，包括故意(自杀)和非故意(意外)死亡[gydF4y2Ba2gydF4y2Ba]。自2008年以来，自杀已成为美国第十大死亡原因。2016年，自杀成为10至34岁人群的第二大死因[gydF4y2Ba3.gydF4y2Ba]。美国自杀预防基金会估计，每年有44,965名美国人死于自杀，而每一次自杀，就有25人企图自杀。由于与自杀有关的污名，这些数字可能被低估了[gydF4y2Ba4gydF4y2Ba]。gydF4y2Ba

动机gydF4y2Ba

患有慢性疼痛和精神健康状况不佳的人往往有自杀风险;然而，目前大多数阿片类药物过量预防方法既没有评估自杀风险，也没有根据个人情况量身定制预防方法[gydF4y2Ba2gydF4y2Ba，gydF4y2Ba5gydF4y2Ba，gydF4y2Ba6gydF4y2Ba]。进一步阻碍实施自杀筛查的是缺乏关于过量死亡的可用数据，过量死亡通常被归类为gydF4y2Ba待定gydF4y2Ba因为无法证实死亡是自杀。例如，如果发现死者身边有注射器，则很难确定这是故意致死剂量还是意外死亡(并且没有过量服用的意图)，因为注射给药的途径有风险[gydF4y2Ba6gydF4y2Ba]。gydF4y2Ba

由于阿片类药物使用障碍的性质，患有阿片类药物使用障碍(OUD)的个体是过量用药的候选人。本研究特别关注自杀意念或意图的个体与OUD的高可能性，或至少，阿片类药物滥用。《精神障碍诊断与统计手册》将OUD定义为阿片类药物使用的一种有问题的模式，导致临床显著的损害或痛苦[gydF4y2Ba7gydF4y2Ba];约有250万人受OUD影响[gydF4y2Ba8gydF4y2Ba]。诊断标准包括长时间服用大量阿片类药物，控制阿片类药物使用的努力不成功，在阿片类药物相关活动或恢复所需的活动中投入大量时间，日常生活功能受损，明知后果仍继续使用，剂量耐受，不可避免的停药[gydF4y2Ba7gydF4y2Ba]。gydF4y2Ba

的gydF4y2Ba新英格兰医学杂志gydF4y2Ba提出自杀意图对OUD患者来说是模糊的，他们反复暴露在成瘾诱导的使用和戒断周期和情绪波动中[gydF4y2Ba2gydF4y2Ba]。最终，如此长时间的接触会导致对可能导致死亡的冒险和冲动行为的脱敏。虽然个人意识到后果，但相应的体重是沉默的，并且没有相关的有意识的自杀意图[gydF4y2Ba9gydF4y2Ba]。OUD的这一方面可导致阿片类药物过量死亡，但可能未明确考虑其对过量的贡献。即使没有OUD，经历过重度抑郁发作、自杀意念或其他使用和精神障碍的人也可能滥用阿片类药物，这表明阿片类药物滥用和精神病理状况是自我延续和循环的行为[gydF4y2Ba10gydF4y2Ba]。gydF4y2Ba

自杀风险的相关预测因素包括慢性疼痛合并抑郁[gydF4y2Ba11gydF4y2Ba，gydF4y2Ba12gydF4y2Ba]。有抑郁史的个体也有更高的平均日剂量，并且更坚持长期阿片类药物治疗慢性疼痛[gydF4y2Ba12gydF4y2Ba]，这是OUD的特征。慢性疼痛和抑郁甚至可能导致原本健康的人产生自杀念头[gydF4y2Ba13gydF4y2Ba]，被动和主动的自杀意念都与精神疾病、以前的自杀企图和慢性疼痛有关[gydF4y2Ba11gydF4y2Ba，gydF4y2Ba13gydF4y2Ba]。一些人认为阿片类药物滥用在很大程度上表现为对身体和精神疼痛的一种适应不良的应对策略，而不仅仅是生物学上的[gydF4y2Ba14gydF4y2Ba，gydF4y2Ba15gydF4y2Ba]。然后，即使没有有意识的自杀意图，不良的心理健康状况也会导致服用阿片类药物的人采取“我不介意死亡”的心态，他们的行为会变得更加鲁莽，导致服药过量的可能性更高。鉴于这些相关性，认真考虑阿片类药物使用者的自杀风险并非不合理。gydF4y2Ba

那些经历过归属感受挫的OUD患者可能不愿意与现实生活中的人讨论他们的担忧，因为社会耻辱。gydF4y2Ba16gydF4y2Ba]。相反，他们可能会转向基于网络的讨论方式，与那些比卫生专业人员更有可能理解他们的人联系并寻求支持[gydF4y2Ba17gydF4y2Ba]。大多数基于社交媒体的阿片类药物研究都是在Twitter上进行的。然而，Twitter被限制在280个字符以内，这可能无法为苦苦挣扎的个人提供足够的空间来彻底表达自己，而且由于缺乏监控和话题的混杂，它可能会非常嘈杂[gydF4y2Ba18gydF4y2Ba-gydF4y2Ba22gydF4y2Ba]。gydF4y2Ba

相比之下，Reddit是一个基于论坛的社交媒体平台，可以讨论许多话题。每个主题都有自己的主题gydF4y2BasubredditgydF4y2Ba对于特定主题的内容，文本帖子的字符限制为40,000。用户可以直接与原始帖子互动，也可以通过在原始帖子下方评论与其他用户互动。根据Reddit的统计页面，它目前是美国访问量第五大的网站，拥有超过3.3亿的月活跃用户和13.8万个活跃社区[gydF4y2Ba23gydF4y2Ba]。当离线支持不可用时，个人越来越多地使用心理健康子reddit作为一种基于网络的支持手段。由于Reddit还提供了在现实生活中无法获得的匿名性，因此围绕耻辱话题的自我披露越来越多[gydF4y2Ba24gydF4y2Ba-gydF4y2Ba26gydF4y2Ba]。此外，由于子reddits是特定类别的，挣扎的个人可以从那些有共同经历的人那里得到支持和理解，他们可以在评论中提供治疗因素(例如，为那些正在阿片类药物恢复或戒断的人灌输希望和利他主义)[gydF4y2Ba27gydF4y2Ba]。gydF4y2Ba

我们将自杀行为的人际心理学理论作为研究自杀与OUD之间关系的动机[gydF4y2Ba28gydF4y2Ba]。简而言之，这一理论认为，一个人不会死于自杀，除非他既有自杀的欲望，又有实现这种欲望的能力。根据该理论，自杀欲望来源于个人的负担感和归属感的阻碍(社会异化)，并伴随着自杀的能力，这是由反复暴露于痛苦和愤怒中发展而来的[gydF4y2Ba9gydF4y2Ba]。受挫的归属感在OUD患者身上表现为内省的折磨，他们经常破坏人际关系，或者觉得自己永远被贴上了标签gydF4y2Ba一个瘾君子gydF4y2Ba无法从周围的人那里得到理解。自杀的能力是通过积极参与类似自杀的行为获得的，需要麻木天生的自我保护意识[gydF4y2Ba28gydF4y2Ba]。这适用于OUD患者，他们中的许多人都亲身经历过吸毒过量，或者目睹他们的朋友因吸毒过量而去世，因此随着时间的推移而变得脱敏。gydF4y2Ba

目标gydF4y2Ba

据我们所知，自杀和OUD的交集还没有用机器学习方法以数据驱动的方式进行分析，尽管这两个领域已经分别进行了检查，并进行了临床研究。我们试图将subreddits与机器学习方法相结合，对样本内数据进行分类，然后预测样本外数据，以检测OUD背景下的自杀意念。gydF4y2Ba

在本研究中，我们(1)利用subreddits的结构和性质来训练分类器，目的是提取同时包含OUD和自杀意念的帖子;(2)比较输入和分类模型;(3)旨在从鸦片情境中提取自杀风险帖子，并从自杀情境中提取阿片类药物成瘾，其中gydF4y2Ba上下文gydF4y2Ba指数据集所属的子reddit。我们还要求亚马逊土耳其机械公司(MTURK)的非专业工作人员对帖子样本进行注释，以获得帖子是否表明自杀念头和阿片类药物成瘾的标签。gydF4y2Ba

相关工作gydF4y2Ba

利用Reddit提供大量文本数据的社交媒体研究已经变得流行起来。其中许多关注当前的心理健康问题，如抑郁和焦虑，并试图分析帖子内容的语言特征，并采用传统方法，如N-grams，潜在的Dirichlet分配主题建模，语言查询和字数统计，术语频率-逆文档频率(TF-IDF)和词嵌入来提取和分析Reddit用户的情绪和精神状态[gydF4y2Ba25gydF4y2Ba，gydF4y2Ba27gydF4y2Ba，gydF4y2Ba29gydF4y2Ba-gydF4y2Ba31gydF4y2Ba]。gydF4y2Ba

r/ suicdewatch和r/opiates的子版块分别围绕着自杀的主题(例如，讨论，情况披露，情绪表达等)和阿片类药物的使用(例如，药物剂量，高剂量活动，戒断痛苦等)。对特定子reddit的分析可以通过他们的语言使用来洞察子reddit用户的一般心态。例如Park等人的研究[gydF4y2Ba29gydF4y2Ba研究表明，心理健康和非心理健康版块的句子结构存在显著差异。他们发现Reddit的r/ suicdewatch和一般心理健康版块在可读性指数上存在差异，第一人称单数代词的使用增加，而第一人称复数、第二人称和第三人称代词的使用减少。gydF4y2Ba29gydF4y2Ba]。Kumar等[gydF4y2Ba32gydF4y2Ba在r/suicidewatch网站上进行了一项调查，以测试维特效应，特别是在高调自杀之后，发现负面情绪、愤怒、自残和自杀言论增加了。他们同样报告说，第一人称单数代词的使用增加了，词汇多样性减少了，帖子变长了，面向将来的词越来越少，面向过去的词越来越多[gydF4y2Ba32gydF4y2Ba]。对r/suicidewatch的另一项分析提取了反复出现的讨论话题，然后将结果与领域专家定义的自杀风险因素进行了比较;研究发现，r/suicidewatch能够捕捉到不太为人所知的风险因素的维度，比如对学业失败、拥有枪支、滥用药物、财务担忧、已故朋友和家庭暴力的担忧。gydF4y2Ba33gydF4y2Ba]。对r/阿片类药物的分析产生了讨论的主要主题和特征，特别是对于阿片类药物使用者，如阿片类药物戒断和阿片类药物摄入常规[gydF4y2Ba34gydF4y2Ba]。gydF4y2Ba

来自r/ suicdewatch的这些发现支持了对现实生活中试图或完成自杀的人留下的文字的分析结果。特别是，一项关于有自杀倾向和没有自杀倾向诗人诗歌用词的研究揭示了第一人称单数代词和交流词的变化(例如，gydF4y2Ba说话gydF4y2Ba)，一项针对自杀完成者的语言学研究表明，与对照组相比，这些人在时间取向上存在差异[gydF4y2Ba35gydF4y2Ba，gydF4y2Ba36gydF4y2Ba]。这个想法gydF4y2Ba异化gydF4y2Ba自杀的人际关系理论支持第一人称代词使用增加的发现——当一个人无法与社会联系时，第一人称复数的存在gydF4y2Ba我们gydF4y2Ba换句话说，相互作用减少了[gydF4y2Ba28gydF4y2Ba，gydF4y2Ba37gydF4y2Ba]。gydF4y2Ba

神经网络(NNs)在自然语言处理方面取得了优异的成绩。与传统方法不同，gydF4y2Ba从零开始学习课文gydF4y2Ba在文字或措辞层面上不需要情感知识;高水平目标可作为输入[gydF4y2Ba38gydF4y2Ba，gydF4y2Ba39gydF4y2Ba]。在这种情况下，这一点尤其有价值，因为与毒品相关的词汇通常是俚语，而与吸毒或醉酒相关的表达可能会被错误地归类为负面词汇，而事实并非如此，因为情感词汇无法学习领域特异性[]gydF4y2Ba40gydF4y2Ba]。此外，不需要穷举特征工程，因为权重可以学习[gydF4y2Ba41gydF4y2Ba]。gydF4y2Ba

金允[gydF4y2Ba42gydF4y2Ba]证明了具有1层卷积的简单卷积神经网络(CNN)对多数据集进行句子分类的能力，发现简单CNN的性能与传统方法相当[gydF4y2Ba42gydF4y2Ba]。Orabi等[gydF4y2Ba43gydF4y2Ba]使用CNN和递归神经网络(RNN)对Twitter数据进行抑郁预测，结果显示CNN的表现优于RNN。约翰逊和张[gydF4y2Ba44gydF4y2Ba]用CNN成功地使用词序列对文档进行分类，而Kim和Orabi只对句子长度短的文本进行分类[gydF4y2Ba44gydF4y2Ba]。Singh等[gydF4y2Ba45gydF4y2Ba比较了CNN，发现CNN在速度和准确性方面都表现得最好。因此，为了提高速度和性能，我们使用了一个简单的CNN架构。gydF4y2Ba

方法gydF4y2Ba

数据收集gydF4y2Ba

本研究中使用的社交媒体平台是Reddit。我们关注的是r/自杀观察和r/抑郁和阿片类药物相关论坛;另外，一个对照组被用来模拟健康、无障碍的语言。reddit的r/suicidewatch版块充当了一个gydF4y2Ba底网gydF4y2Ba，这样，如果用户表达了自杀倾向，他们通常会被引导到r/ suicdewatch寻求帮助。子版块reddit有禁止恶意中伤和劝阻激进主义的政策(例如，反复发布热线)，支持直接的同伴支持，这给这个论坛带来了可信度。gydF4y2Ba46gydF4y2Ba]。Subreddit r/depression在禁止方面类似gydF4y2Ba空的鼓励gydF4y2Ba(即gydF4y2Ba别担心，会好起来的gydF4y2Ba)。这些特点说明了这些讨论板的严肃性，并证实了数据的可靠性。然而，与这些子reddit不同的是，r/joke几乎没有规则，只是明确规定不得进行人身攻击，并指出讨论必须轻松、文明;同时，r/showerthoughts只要求原创内容。阿片类药物相关论坛上的帖子被认为表明了与阿片类药物滥用作斗争并在网络上寻求理解的个人;我们的假设是基于这样一个事实:在社交媒体上发布有关阿片类药物的行为表明，这些药物的存在在一个人的生活中占据了足够的主导地位。如果论坛相对活跃，并且论坛的焦点药物经常在reddit最活跃的阿片类药物版块r/opiates上讨论，则选择所有与阿片类药物相关的论坛。数据是使用pushshift从Reddit上收集的。io Python应用程序编程接口(API) [gydF4y2Ba47gydF4y2Ba]和Reddit的Python Reddit API Wrapper (PRAW) [gydF4y2Ba48gydF4y2Ba]。2017年6月至2018年6月期间提交的id是通过pushshift获得的。然后传递给PRAW，后者检索实际提交。提交由ID、作者、标题和正文文本/内容组成。gydF4y2Ba

我们使用来自r/ suicdewatch的帖子来代表自杀语言，并使用与阿片类药物相关的子reddit集合来模拟阿片类药物使用者(在本研究中称为r/opiates或)的语言gydF4y2Ba鸦片的数据gydF4y2Ba)。我们假设所有来自r/suicidewatch的帖子都是关于自杀的，并且r/depression的语言与r/suicidewatch的语言最为相似。gydF4y2Ba49gydF4y2Ba]。根据Shen等人的研究，使用了几个对照子reddit进行语言比较[gydF4y2Ba50gydF4y2Ba]来检测Reddit上的焦虑情绪，这意味着子Reddit本身可以用作标签。这一系列不同的子reddit试图抵消过度使用第一人称代词的影响，第一人称代词在表达负面情绪和特定主题的词语时很常见。gydF4y2Ba51gydF4y2Ba，gydF4y2Ba52gydF4y2Ba]。我们假设这些控制子区里的大多数帖子都是gydF4y2Ba心理健康gydF4y2Ba这意味着帖子内容(对用户本身只字未提)不会反映出抑郁症和自杀念头等精神障碍。除了Shen等人所使用的subreddits [gydF4y2Ba50gydF4y2Ba]，我们包括了r/careerguidance和r/personalfinance来解释那些在r/suicidewatch中的人可能经历的财务压力源，我们包括了r/offmychest来解释阿片类药物使用者潜在的更粗鲁和更粗俗的语言，这表明强烈的负面情绪，但不太可能表明自杀倾向。在一些特定的子reddit帖子的例子显示在gydF4y2Ba表1gydF4y2Ba，数据组及其子reddits列表如下:gydF4y2Ba

• 抑郁症gydF4y2Ba:抑郁症。gydF4y2Ba
• SuicidewatchgydF4y2Ba: suicidewatch。gydF4y2Ba
• 控制gydF4y2Ba问医生，问科学，书，职业指导，健身，节俭，笑话，生活秘诀，坦白，育儿，个人理财，生产力，随机善良，人际关系，淋浴思想，零售故事，reddit理论，批发，博客，写作，你应该知道。gydF4y2Ba
• 鸦片gydF4y2Ba:苯二氮卓类药物，苯二氮卓类药物，海洛因，美沙酮，阿片类药物，阿片类药物恢复，戒烟，亚博酮。gydF4y2Ba

特征矩阵构造gydF4y2Ba

我们保持了语言的高级结构，只是小写并删除了url [gydF4y2Ba42gydF4y2Ba]。文本没有被规范化，所有的停止词和亵渎都被保留了下来。除句号、逗号、感叹号、问号和撇号外，所有标点符号都被删除了。我们试图利用词序对文本进行分类[gydF4y2Ba44gydF4y2Ba]。由于帖子的标题可以很好地表示帖子的内容，因此每篇文章的标题都附加在正文文本之前。合并后的标题和正文内容组成了神经网络输入。所有的帖子要么是零填充，要么是截断到1500字的长度，因为我们希望尽可能使用整个帖子。每个帖子(标题+正文)都经过预处理、标记和编码，保留了单词序列，因此被表示为单词向量。我们还只使用超过1000个单词的帖子重新进行分类，以表明不同的内容长度不会影响性能。gydF4y2Ba文本框1gydF4y2Ba显示每个文本处理阶段的示例。gydF4y2Ba

由于顺序文本数据不能像训练机器学习模型那样使用，因此有几种技术可以将这些数据转换为数值:gydF4y2Ba

1. TF-IDF:术语频率逆文档频率表示一个单词在一个文档中相对于它在其他文档中的频率有多重要。我们使用了样本内单图和双图的100维TF-IDF [gydF4y2Ba53gydF4y2Ba]。gydF4y2Ba
2. 词嵌入:这是一组将文本数据转换为向量空间的方法和语言模型。我们利用了3种方法，包括Gensim Word2Vec模型Global Vectors for Word representation (GloVe)，它需要在大型数据语料库上预先训练嵌入，以及一个更简单的Word到ID映射版本，这是在运行时执行的[gydF4y2Ba54gydF4y2Ba，gydF4y2Ba55gydF4y2Ba]。gydF4y2Ba
3. 字符嵌入:由于在预训练的词嵌入中，字典外的词都被映射到随机向量上，或者俚语中最微小的变化都可能导致词映射到不同的向量上，因此添加字符嵌入也显示了对机器学习模型训练的改进。gydF4y2Ba

在本研究中，我们利用这些知识表示方法的不同组合来评估分类性能是否通过缓解词汇问题来改善附加信息。gydF4y2Ba多媒体附录1gydF4y2Ba显示组合的完整列表。gydF4y2Ba

模型gydF4y2Ba

我们主要关注的是CNN文本分类器。此外，我们实现了几个传统和深度学习模型作为CNN的基线。详情如下。gydF4y2Ba

经典的基线gydF4y2Ba

我们采用了众所周知的传统机器学习方法作为基准，包括逻辑回归(LR)、随机森林(RF)和支持向量机(svm)。实现使用Python语言，并基于scikit-learn工具包[gydF4y2Ba53gydF4y2Ba]。gydF4y2Ba

神经网络基线gydF4y2Ba

我们在它们的原始架构中实现了快速文本(FAST)、RNN和基于注意力的双向RNN (ATTENTION)进行比较[gydF4y2Ba56gydF4y2Ba-gydF4y2Ba58gydF4y2Ba]。FAST使用浅神经网络和由n-gram袋构建的单词表示，将其平均为文本表示并输入到线性分类器中。RNN考虑历史信息，并通过允许重用以前的输出作为输入来共享权重。注意力通过引入能力建立在RNN的基础上gydF4y2Ba参加gydF4y2Ba具体的子输入而不是所有可用的信息，从而改进每一步做出的决策。gydF4y2Ba

CNN模型gydF4y2Ba

我们基于Kim Yoon的CNN架构实现了一个CNN，并使用了Python中的Keras NN库[gydF4y2Ba59gydF4y2Ba]。这个实现和Kim的实现之间的主要区别是使用随机初始化而不是word2vec，因为两者的性能相同，使用最大池化而不是全局池化，使用过滤器大小为3和8而不是3、4和5。8大小的过滤器被证明可以更好地处理较长的文档，并且一次可以滑动过8个单词的窗口[gydF4y2Ba60gydF4y2Ba]。每个卷积层之后的激活层是整流的线性单元f(x)=max(0,x)，它在输入和特征映射之间映射非负。在将附加信息、领域知识特征和char2vec (char2vec)集成到原CNN系统中，我们简单地使用了拼接。由于char2vec特征矩阵与词嵌入特征大小相同，逻辑意义相似，我们在主卷积部分之前将它们连接在一起。在最终的全连接层部分之前，将领域知识特征(从语言学角度提取的信息的一个大向量)进行连接。我们使用的批大小为512,epoch计数为6，嵌入层是在训练时学习的。嵌入层的dropout为0.5以防止过拟合，维度大小为100。损耗用交叉熵计算。gydF4y2Ba图1gydF4y2Ba展示了我们的CNN架构。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

分类与预测gydF4y2Ba

我们的假设是基于直觉的观点。我们考虑了两种情况:(1)阿片类药物数据集中存在带有自杀情绪的帖子;(2)自杀观察数据集中存在表明阿片类药物成瘾的帖子。我们试图提取包含自杀情绪和阿片类药物滥用的帖子。这两种情况被称为gydF4y2BaC1gydF4y2Ba和gydF4y2BaC2gydF4y2Ba由各自的模型表示。gydF4y2Ba

案例1 (C1)是一个模型，它将接受来自r/suicidewatch和控制子reddit的积极语言数据的训练，它将学习区分自杀和积极语言。由于r/opiates包含混合情绪，如果我们将r/opiates的样本外数据输入到C1中，则C1应该能够对自杀风险岗位和非自杀风险岗位进行分类。来自r/opiates的帖子被分类为gydF4y2Ba自杀gydF4y2Ba会同时包含自杀和自杀的方面。此外，我们对预测的帖子质量进行了粗略评估gydF4y2Ba自杀gydF4y2Ba通过从预测中构造一个word2vec。gydF4y2Ba

案例2 (C2)是一个基于r/抑郁和r/阿片类药物数据训练的模型。reddit的r/depression版块和r/suicidewatch版块最相似。C2将学会区分有吸毒成瘾和没有吸毒成瘾的帖子。如果我们将r/ suicdewatch的样本外数据输入C2，那么C2应该能够对包含阿片类药物使用和非阿片类药物使用的帖子进行分类。r/ suicdewatch上被归类为使用阿片类药物的帖子将同时包含自杀和OUD方面。gydF4y2Ba

对于分类，以8:2的比例分割数据集用于训练和测试。训练数据再次分割，训练与训练验证的比例为8:2。为了评估预测能力，我们从r/opiates和r/ suicdewatch中抽取了500个帖子进行注释。为了加强样本质量的下限并减少帖子之间的方差，我们只从30到500个单词之间的帖子中进行采样。由于在500个样本中关注类别平衡，因此如果500个帖子包含感兴趣的关键字或关键短语，则最多选择250个。因此，整个数据集上的8:2训练/测试分割用于样本内测试，然后从属于测试分割的20%的帖子中提取500个样本用于样本外测试。gydF4y2Ba表2gydF4y2Ba总结了C1和C2过程，并在gydF4y2Ba多媒体附录2gydF4y2Ba，它演示了C1的工作流程。gydF4y2Ba

Amazon Mechanical Turk的注释gydF4y2Ba

抽样的帖子由来自MTURK的众包工作者注释[gydF4y2Ba61gydF4y2Ba]。每个帖子由3个工人注释，帖子的最终标签由多数决原则确定。gydF4y2Ba

对于C1, MTURK任务被命名为“自杀情绪检测”。描述是“使用者是否有自杀或故意服药过量的风险?”，有两个选项:“有自杀风险”和“没有自杀风险”。任务关键字包括gydF4y2Ba抑郁、药物滥用、药物、心理、心理健康、鸦片、过量、自杀、自杀意念、自杀观察、gydF4y2Ba和文本。符合条件的土耳其工人必须具有硕士资格，每个注释奖励0.04美元。我们不需要其他条件。假设一般人在精神健康和药物滥用方面都缺乏经验[gydF4y2Ba62gydF4y2Ba]，我们从r/opiates中定义了常见的俚语(例如，PAWS代表急性戒断综合征)，并提供了简单的说明gydF4y2Ba自杀的线索gydF4y2Ba作者是埃德温·施奈德曼，他是美国自杀学协会的创始人，并在该领域奠定了基础[gydF4y2Ba63gydF4y2Ba]。gydF4y2Ba

对于C2, MTURK任务的标题是“自杀个体的阿片类药物成瘾”。描述是“这篇文章是否暗示了阿片类药物成瘾?”有两个选项:“是的，意味着阿片类药物成瘾”和“没有阿片类药物成瘾”。任务关键字和限定条件与C1 MTURK任务相同。我们在说明书中提供了阿片类药物的名称。gydF4y2Ba

结果gydF4y2Ba

模型的比较和特征矩阵的影响gydF4y2Ba

我们计算了准确性、精密度、召回率、gydF4y2BaFgydF4y2Ba_1gydF4y2Ba得分，曲线下的面积。完整的结果可以在gydF4y2Ba多媒体附录1gydF4y2Ba。gydF4y2Ba表3gydF4y2Ba提供了CNN与传统基线比较结果的子集gydF4y2BaFgydF4y2Ba_1gydF4y2Ba在训练分类器时得分。gydF4y2Ba表4gydF4y2Ba提供了比较神经网络的结果。在这一阶段结束时，模型已经训练完毕，可以用于预测样本外数据。gydF4y2Ba

从gydF4y2Ba表3gydF4y2Ba，我们可以看到word2vec对CNN的性能有贡献。另一个有趣的观察是，当使用预训练的GloVe作为输入时，所有模型的分类性能都会受到影响。这可能是由于使用特定的subreddits作为分类引入了本地信息。GloVe和字符嵌入的引入阻碍了RF的性能，这意味着RF在学习隐式语义特征方面比LR和SVM更困难。相比之下，神经网络在基于语义的输入上表现良好。gydF4y2Ba

图2gydF4y2Ba提供了神经网络从头开始训练的词嵌入的可视化。从浅紫色到亮粉色的颜色强度和色调表明对各自单词的强调程度在增加。CNN, RNN和ATTENTION共享许多重要的词，而FastText似乎关注不同的词，因为它的n -grams方法，但仍然取得了很高的分类性能。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

使用MTURK注释评估预测gydF4y2Ba

对于预测，我们使用了word2vec输入和神经网络的传统基线。为了评估预测性能，使用MTURK获得每篇文章有3个注释的标签。C1预测阿片类药物数据中的自杀率。注释由25个独立的工作者执行，平均每个帖子花费4分钟。3个注释的两两一致性分别为0.632、0.628和0.644。在500个帖子中，总共有120个被裁定有自杀风险。C2预测自杀帖子中的阿片类药物成瘾。注释由92个独特的工作者完成，平均为11.3分钟(C1: SD 6.667分钟;C2: SD 14.633分钟)。注释间的两两一致性分别为0.524、0.604和0.544。 In total, 261 out of 500 posts were ruled as是的，意味着阿片类药物成瘾gydF4y2Ba。gydF4y2Ba表5gydF4y2Ba显示了使用多数规则MTURK注释作为基本真理的模型性能。gydF4y2Ba表5gydF4y2Ba还显示了根据数据集中标签的比例在性能上的差异。为了构建一组包含500行自杀风险帖子的特定百分比的数据，我们使用sckit-learn进行抽样，并将replace设为true。gydF4y2Ba

关于C1:在阿片类药物成瘾背景下检测自杀意念的观察gydF4y2Ba

对于C1和C2，我们注意到，当每个标签的帖子比例发生变化时，模型指标发生了巨大变化。对于C1，当有自杀和非自杀标签的帖子混合时，传统基线表现更好，因为神经网络产生了大量的假阳性。然而，当只检查自杀帖子时，神经网络达到了更好的准确性。因此，根据领域和数据集的不同，最好使用在极端情况下更优越的模型，或者保持在一个相对较小的可变范围内。对于我们在样本外鸦片类药物数据中预测自杀风险帖子的案例，宁可在安全方面犯错，也不要错过有自杀风险的人。如果样本包含许多自杀风险帖子，CNN将是一个不错的选择。在预测表明自杀风险的帖子时，基线的预测能力是不可取的，因为在现实生活中，假阴性的代价是高昂的。gydF4y2Ba

考虑到模型倾向于预测C1的极端情况，我们推测这些模型将很好地作为集成模型的弱学习器。我们探索了一个简单的集成模型，使用scikit-learn的AdaBoost分类器和LR、SVM、RNN和CNN作为弱学习器。我们使用500大小的mturk标记数据作为基础真理，并使用弱学习者的概率预测作为输入数据。数据以8:2的比例分成训练集和测试集。AdaBoost在不同的数据洗牌和随机状态下运行5次，取平均准确率。gydF4y2Ba

在gydF4y2Ba图3gydF4y2Ba，顶部的图表说明了当我们将C1中鸦片数据中的自杀风险标签的百分比从10%增加到90%时，所选模型的性能。线形图显示了AdaBoost在这些模型作为弱学习器时的表现。AdaBoost在相应的区间内分别实现了0.89、0.84、0.82、0.8、0.8、0.86、0.9、0.91和0.94的精度。下面这张图gydF4y2Ba图3gydF4y2Ba显示每个步骤的模型贡献。从图中，结合预测极端情况的模型可以得到一个更健壮的分类器。这是一种有利的方法，因为集成模型现在具有关于样本外数据的知识，这是弱学习模型所不具备的。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

图4gydF4y2Ba显示了C1在更细粒度水平上的并行预测性能;每个标签的50%被采样用于视觉。每条线代表一个帖子。定gydF4y2BaxgydF4y2Ba-轴列出了模型，以及与的交点gydF4y2BaygydF4y2Ba模型的-轴为模型的预测分数。较暗的线被mturk标记为表明自杀风险(y轴上为0)，而较亮的线则不表明自杀风险(y轴上为1)。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

关于C2的观察:在自杀意念的背景下检测阿片类药物滥用gydF4y2Ba

我们对C2的假设是，在接受抑郁症和鸦片类药物组的数据训练后，这些模型将能够检测出与药物成瘾作斗争的个人使用的短语。尽管这些模型在分类r/抑郁与阿片类药物数据方面都取得了很好的结果，但它们未能从MTURK标签中提取出含有阿片类药物的帖子。一种可能的解释是，用户在不同的语境下表达自己的方式不同(看板)。另一种可能性是，r/suicidewatch中的语言语义放弃了阿片类药物的特征，比如在任何与阿片类药物有关的帖子中占据大部分篇幅的关于戒断或复发的细节。例如，在r/ suicdewatch上的一篇文章可能会在关于过量用药的句子中简短地提到几个关键词，如“氢”或“苯”，而文章的其余部分则关注个人斗争。另一方面，如果一个来自r/opiates的用户在r/opiates康复中发表想要自杀的帖子，他们会表达对药物的情绪，因为他们知道他们的读者会理解。有可能用户潜意识地认为r/suicidewatch的观众对阿片类药物成瘾知之甚少，因此忽略了阿片类药物成瘾对他们生活的影响。因此，阅读整个帖子的MTURK工作人员可能会观察到用户很容易获得阿片类药物并且对药物混合有经验;然而，模型可能无法获取这些含义，因为这些精确的表达式没有出现在它所训练的数据中。gydF4y2Ba

根据我们关于C2中语言使用的新假设，我们重新评估了C2的预测。我们没有使用mturk确定的标签，而是构建了一组启发式标签，如果帖子中包含C2关键字中的任何单词，则该帖子暗示阿片类药物成瘾gydF4y2Ba表2gydF4y2Ba这并不意味着阿片类药物成瘾。研究结果显示在gydF4y2Ba表6gydF4y2Ba。虽然整体表现并不理想，但所有分数都增加了，这支持了我们的假设，即特定单词的存在很重要，MTURK工人的定向注意力可能与模型不同。gydF4y2Ba

阿片剂数据中预测自杀帖子的内容概述gydF4y2Ba

我们从预测为的帖子中构建了一个双字word2vecgydF4y2Ba自杀gydF4y2Ba在整个鸦片数据集中(鸦片数据:n=23,740，见gydF4y2Ba表3gydF4y2Ba)，全面评估这些职位的质素。然后，我们查询了每个模型中与“suicide”最相似的前15个单词，因为它更有可能出现在第一人称代词中，而不是词根“suicid”的其他衍生词。gydF4y2Ba表7gydF4y2Ba从最相似的词到最不相似的词来总结结果。gydF4y2Ba

讨论gydF4y2Ba

概述gydF4y2Ba

本研究的目的是利用Reddit的结构和数据建立模型，最终预测(C1)阿片类药物使用者的自杀语言和(C2)有自杀想法的个体的阿片类药物使用。我们评估了几种结合了语义输入和知名NN文本分类器的模型的分类和预测样本外数据的能力，以提取包含自杀意念和阿片类药物滥用的帖子。然后使用MTURK为样本外数据提供启发式的基础真理。gydF4y2Ba

限制gydF4y2Ba

由于数据量大，我们假设一个subreddit下的所有帖子都反映了官方subreddit的目的(例如，在r/opiatesrecovery中恢复阿片类药物用户的帖子)，并且由于大多数内容的绝对数量，偏差被抵消了。对阿片类药物子reddit中预测的自杀行为的人工审查(C1)发现，许多病例被错误地预测为自杀，因为使用者经历了极端的戒断，因复发而愤怒，甚至因无法使用阿片类药物作为应对机制而因清醒而愤怒。将r/offmychest纳入控制子reddit是为了抵消这种可能并不意味着自杀的强烈负面情绪。自杀性帖子也可能被预测为非自杀性帖子，因为它使用了平静的辞职信语言，或者因为用户是在自我反思或分享过去的经历。gydF4y2Ba

对r/suicidewatch (C2)中预测的阿片类药物使用情况的人工审查发现，糟糕的预测可能是由于阿片类药物reddit中存在的情绪混合造成的。由于阿片类药物组包括活跃使用者和恢复/戒断使用者(即，r/阿片类药物与r/阿片类药物恢复)，语言变化可能是极端的，并且因愤怒而异(即，gydF4y2Ba我的发牌人****迟到了gydF4y2Ba)到否定(即，gydF4y2Ba除了海洛因，我找不到快乐gydF4y2Ba)高兴(如:gydF4y2Ba我已经戒了70天了!gydF4y2Ba)。所有这些职位都被赋予了相同的标签gydF4y2Ba鸦片gydF4y2Ba因为他们被归类为阿片类语言。因此，预测阿片类药物使用需要药物特异性词汇的存在。gydF4y2Ba

MTURK局限性gydF4y2Ba

我们试图通过提供简短的上下文和说明来克服MTURK的局限性。无论如何，限制包括缺乏领域知识，自杀意念或药物滥用的经验，以及解释的主观性。也有可能在注释上粗心大意，因为一些帖子相对较长，并不是所有的帖子都被仔细阅读过。此外，我们提供了一篇脱离用户生活背景的帖子;很难判断这篇帖子在现实中有多令人震惊，因为我们无法知道后来用户发生了什么。也没有办法控制有多少用户和哪些用户参与了评估—许多不同的工作人员的参与可能会在注释一致性中引入随机变化。对几个不同意的帖子的人工审查表明，缺乏领域专业知识会使注释变得困难;例如，一篇不同意的帖子提到了gydF4y2Ba厌倦了醒来gydF4y2Ba,在gydF4y2Ba撤军gydF4y2Ba就是这样gydF4y2Ba更容易结束这一切gydF4y2Ba，但也提到gydF4y2Ba想要清醒gydF4y2Ba。一位MTURK员工可能认为这个职位充满希望，而另一位员工可能认为这个职位处于放弃的边缘。尽管存在这些限制，但这些注释提供了关于涉及鸦片成瘾时被认为是自杀的公众看法的见解。gydF4y2Ba

的见解gydF4y2Ba

对阿片类药物和其他药物成瘾者进行的研究表明，阿片类药物成瘾往往伴有其他心理障碍，如人格障碍或创伤[gydF4y2Ba64gydF4y2Ba，gydF4y2Ba65gydF4y2Ba]。我们在最相关的单词的简单概述中观察到了这一点gydF4y2Ba自杀。gydF4y2Ba在神经网络中，提取了几个人格障碍术语和精神疾病，如gydF4y2Ba创伤后应激障碍gydF4y2Ba(创伤后应激障碍)，gydF4y2Ba边缘,双gydF4y2Ba,gydF4y2Ba迦得gydF4y2Ba(一般性焦虑障碍)。还捕获了戒断的特征:gydF4y2Ba易怒，失眠，恶心gydF4y2Ba。我们可以推测，人格障碍患者进入戒断期的企图自杀的风险高于其他人群。gydF4y2Ba

未来的发展方向gydF4y2Ba

利用Reddit元数据有很多可能的方向。对于像r/opiates这样带有复杂情绪的子reddit，首先可以根据上下文应用粗粒度分类来丢弃过于积极或消极的帖子。考虑到Reddit的互动性，对评论的分析可能会显示出挣扎的同龄人提供了什么样的支持。Reddit的同伴方面很有吸引力，而非评判性同伴支持的整合可能有助于恢复OUD用户，使他们更愿意依赖现实生活中的帮助。这是朝着减少OUD带来的频繁的社会孤立迈出的一步。gydF4y2Ba

总的来说，考虑到活跃子Reddit的数量，对Reddit数据限制的探索提供了许多可能的研究领域。在r/阿片类药物的所有帖子中，我们发现了少数几个成功戒断阿片类药物使用多年的用户，并返回以传递完全康复的希望。这些人可以被看作是gydF4y2Ba成功的故事。gydF4y2Ba研究这些个体和那些以悲剧告终的个体之间的差异是特别有趣的，因为OUD恢复困难且容易复发。gydF4y2Ba66gydF4y2Ba]。人们还可以考虑自杀意念、OUD和慢性疼痛之间的相互作用，特别是因为许多OUD病例始于个人或亲密的人的处方药[gydF4y2Ba10gydF4y2Ba]。另一个焦点是影响OUD个体行为的可能性;一项针对基于用户搜索的医疗保健行为定向广告的研究表明，由输入搜索条件决定的行为可以预测个人是否会受到目标广告的影响而采取行动，例如去看医生[gydF4y2Ba67gydF4y2Ba]。因此，网络行为与现实生活行为的联系可能比预期的更紧密，有针对性的广告可能会鼓励处于戒断期和与复发作斗争的OUD患者寻求帮助。gydF4y2Ba

神经网络在纯自杀标签的帖子中实现高精度的趋势，但在数据集混合时表现不佳，这引发了一个问题，即哪些语义维度实际上被捕获了。虽然我们在这个实验中使用神经网络作为黑盒，但未来的研究可能需要直接关注潜在的语义维度，这可能有助于参数调优和泛化。特别是，通过检查nn从零开始训练的词嵌入来帮助预测样本外数据，提取出可能在文本数据领域中泛化的确切特征将是非常有趣的[gydF4y2Ba68gydF4y2Ba]。gydF4y2Ba

我们专注于提取OUD背景下具有自杀意念的帖子，并没有对提取的帖子进行太多分析。许多研究调查了自杀个体的内容，但在特定背景下进行的研究要少得多，可能是由于缺乏可用数据。尽管本研究存在局限性，但收集的预测能够揭示自杀阿片类药物使用者的想法。在帮助那些从OUD中恢复过来的人，考虑从个人层面开始可能很重要。gydF4y2Ba69gydF4y2Ba]。专业人员和患者之间的沟通很重要，个人故事能够通过解构污名障碍来减少污名[gydF4y2Ba70gydF4y2Ba]。由于这些帖子可能是原始和诚实的，它们可以让临床专业人员更加熟悉这些人的心态。减少对患者的污名化看法可以使患者获得授权，这从长远来看是必要的[gydF4y2Ba66gydF4y2Ba，gydF4y2Ba71gydF4y2Ba]。考虑一篇被公认为显示自杀风险的帖子，总结如下:gydF4y2Ba

一旦有什么东西丢了，或者出了什么问题，你是所有人第一个怀疑有错的人……那一定是那个该死的瘾君子，对吧?我也许是个瘾君子，但我从来没当过贼。gydF4y2Ba

倡导理解和帮助那些与阿片类药物成瘾作斗争的人很容易;然而，很难认识到他们自己的行为如何影响那些阿片类药物成瘾者。我们认为，作为第一步，具体的案例是必不可少的，自杀风险评估应该在个人层面上进行。我们的研究旨在通过帮助那些有OUD的人获得理解来帮助预防自杀——我们的目标不是用预测模型代替风险评估[gydF4y2Ba72gydF4y2Ba]。应用从提取的帖子中收集到的见解可以帮助减少耻辱，澄清对药物滥用和自杀意念的错误假设。gydF4y2Ba

结论gydF4y2Ba

本文的目标是利用Reddit的大数据来检测阿片类药物使用者的自杀行为。Reddit的结构为数据集提供了分类，而社交媒体的设置可以提供其他地方无法获得的案例细节。这项研究可以作为使用社交媒体网站属性来辅助机器学习方法的概念证明，以及关于神经网络抽象文本数据并在独立领域执行的可行性的研究方向。与高性能基线模型的比较表明，在运行样本外数据时，缺少硬编码特征可能使模型具有更大的灵活性和准确性。gydF4y2Ba