发表在6卷, 3号(2020): Jul-Sep

本文的预印本(早期版本)可在https://preprints.www.mybigtv.com/preprint/19975,首次出版
调查青少年和年轻人对JUUL的态度:使用Twitter数据的计算研究

调查青少年和年轻人对JUUL的态度:使用Twitter数据的计算研究

调查青少年和年轻人对JUUL的态度:使用Twitter数据的计算研究

原始论文

1犹他大学生物医学信息系,美国犹他州盐湖城

2华盛顿大学生物医学信息学和医学教育系,华盛顿州西雅图,美国

3.大学信息技术基础设施与运营,犹他大学,盐湖城,犹他州,美国

4加州大学圣地亚哥分校家庭医学与公共卫生系,加州拉霍亚,美国

通讯作者:

Ryzen本森

生物医学信息系

犹他大学

Wakara路421号

# 140

盐湖城,犹他州,84108

美国

电话:1 (801)581 4080

电子邮件:ryzen.benson@utah.edu


背景:从2017年到2019年,高中生中电子尼古丁传递系统(ENDS)使用的增加似乎与ENDS设备JUUL的日益普及有关。

摘要目的:我们采用了内容分析方法,结合使用Twitter数据的自然语言处理方法来了解有关Twitter上使用JUUL、对JUUL的情绪和未成年人使用JUUL的突出主题。

方法:在2018年7月至2019年8月期间,收集了11556条包含juul相关关键字的唯一推文。我们为与juul相关的使用和情感主题手动注释了4000条推文。我们使用了3种机器学习算法来分类积极和消极的JUUL情绪以及未成年的JUUL提及。

结果:在带注释的推文中,78.80%(3152/4000)特别提到了JUUL。只有1.43%(45/3152)的推文提到使用JUUL作为戒烟方法,只有6.85%(216/3152)的推文提到使用JUUL对健康的潜在影响。在使用的机器学习方法中,随机森林分类器在所有3个分类任务(即积极情绪、消极情绪和未成年人JUUL提及)中表现最好。

结论:我们的研究结果表明,绝大多数推特用户并没有使用JUUL来帮助戒烟,也没有提到使用JUUL的潜在健康益处或危害。使用机器学习算法来识别包含未成年JUUL提及的推文,可以支持对JUUL习惯和观点的及时监控,进一步协助针对年轻人的公共卫生干预策略。

中华医学会公共卫生监测2020;6(3):e19975

doi: 10.2196/19975

关键字



背景

尽管高中学生中任何烟草制品的总体使用量从2011年的24.2%下降到2017年的19.6% [1], 2018年总体使用量增至27.1% [2],并在2019年进一步升至31.2%。这种增加主要受到电子尼古丁输送系统(ENDS)使用的影响。目前高中生使用ENDS的比例从2011年的约1.5%上升[1]至2019年约27.5% [3.]。ENDS使用量的增加似乎与JUUL品牌的日益普及有关,JUUL是一种紧凑型荚果模型设备,其一次性或可重复填充的荚果通常含有人造香料、尼古丁盐、植物甘油或丙二醇,其销售额占2018年底ENDS市场的76% [4]。

JUUL的受欢迎程度源于产品的三个主要特征:外观,口味和尼古丁释放[56]。JUUL时尚的“usb式”设计有助于公共终端使用的规范化,并有助于在学校和其他公共场所等禁烟区域不显眼地使用[7]。JUUL之前有各种吸引年轻人的口味,包括但不限于芒果、薄荷、cr蓝莓和薄荷醇[8]。截至2019年10月,JUUL实验室已经删除了除经典烟草、弗吉尼亚烟草和薄荷醇口味外的所有口味,试图解决有关该产品对未成年用户吸引力的担忧。9]。

如可燃烟草制品的尼古丁浓度按重量计介乎1.5%至2.5% [1011], JUUL豆荚中的尼古丁浓度按重量计从3%(35毫克/毫升)到5%(59毫克/毫升)不等。虽然JUUL胶囊所含的尼古丁总量只相当于一包香烟的一小部分,但JUUL使用者在一个胶囊中吸收的尼古丁量与一包香烟大致相同。12]。这表明尼古丁通过JUUL胶囊比通过可燃香烟更有效地被吸收,这可能是由于香烟中的尼古丁被燃烧成侧流烟雾和JUUL胶囊的尼古丁成分[13]。JUUL豆荚含有一种质子化形式的尼古丁,称为尼古丁盐[14],其吸收类似于香烟中的游离尼古丁[1516但吸入后口感更顺滑,尝起来不那么苦[1317]。

最近一项关于青少年对JUUL尼古丁浓度认知的研究表明,37.4%的青少年认为JUUL含有低或中等尼古丁浓度,31.4%的青少年不知道尼古丁浓度[18]。这些发现表明,青少年没有意识到单个JUUL豆荚中尼古丁含量相对较高。进一步的研究记录了与juul兼容的豆荚的出现,其中一些含有高达6.5%的尼古丁浓度[13]。大约90%的成人每日吸烟者在18岁以前就开始吸烟了[19以及公众对JUUL高度浓缩的尼古丁含量缺乏了解[20.],据推测,JUUL对年轻人产生尼古丁依赖的风险[2122]。因此,在青少年时期形成的尼古丁依赖可能会导致上瘾,并可能在以后过渡到传统的可燃香烟[23]。随着电子烟终端市场在产品和使用模式(即pod mods、box mods、vape pen)方面的迅速变化,在了解未成年人使用电子烟终端及其后果方面存在重要的知识空白[24]。

社交媒体对JUUL使用的研究

从Twitter获得的免费和公开的数据可以深入了解公众对健康行为的看法和知识。根据皮尤研究中心2018年和2019年的调查报告,32%的13至17岁青少年[25]和44%的18至24岁的成年人[26使用Twitter。考虑到这一年龄分布,该平台可以作为了解青少年和年轻人使用JUUL的有希望的数据来源。以前利用Twitter数据对JUUL进行的研究已经确定了许多关于产品及其用户的经验和见解,例如在禁止的环境中使用JUUL(例如,学校)[27], JUUL设备和JUUL吊舱的收购[28],以及JUUL在Twitter上的被提及次数与JUUL销量之间的相关性[29]。除了这些研究之外,还有越来越多的工作评估未成年人如何在各种社交媒体平台上推广和使用JUUL。不仅文献表明青少年juul相关内容大量存在[30.],但年轻用户也会与其他用户分享他们的观点和经验,并讨论与JUUL使用相关的各个方面[31-33]。然而,据我们所知,利用计算方法对JUUL相关推文进行的大规模分析尚未进行,以了解未成年人对JUUL的使用模式和看法。使用机器学习算法对tweet进行分类允许对tweet进行自动分类,并消除了人工注释过程带来的耗时和消耗资源的负担。虽然机器学习在推特上的应用在几个公共卫生分支学科中显示出了希望[3435],这些方法在ENDS研究中未得到充分利用。

目标

我们的主要目标是进一步了解与Twitter上使用JUUL相关的突出主题和主题,特别关注未成年人使用JUUL和健康观念。我们的第二个目标是使用自然语言处理(NLP)方法开发基于机器学习的分类器,能够自动识别和评估与未成年人相关的JUUL提及以及对JUUL的积极和消极情绪。在这样做的过程中,我们希望提供性能最佳的分类器,以进一步验证并应用于与未成年人使用JUUL及其在Twitter上的表示相关的其他工作。


数据收集

使用免费的Twitter应用程序编程接口(API) [36我们收集了2018年7月至2019年8月期间28,590条推文的样本。为了查询Twitter API,在控烟研究员(SZ)的帮助下,确定了合适的juul相关关键词。我们使用了不区分大小写的关键字JUUL, Phix, Sourin, myblu, Aspire Breeze, vaping pod, pod mod和vape pod因为这些术语对pod mod ENDS设备都是通用的。由于我们主要对个人使用JUUL的有机角度感兴趣,因此我们从数据集中删除了所有转发。删除转发后,我们的数据集由11,556条独特的英语推文组成。

道德的考虑

这项研究被犹他大学机构审查委员会(irb# 00076188)确定免于审查。为了保护用户隐私,我们没有在本文中包含用户名。此外,所有引用都是从多个例子中合成的。

手动推特内容分析

为了分析我们收集的推文的各种主题,我们进行了手动标注过程,根据每条推文的内容对其进行分类。我们使用了Myslin等人开发的分类方案[34以新兴烟草产品Twitter监控为起点,修改分类类别,以更恰当地反映我们对JUUL的兴趣范围。我们最初包括39个类别来编码推文相关性(即,推文是否与juul相关)、类型、内容和情绪。此时,对200条tweet进行初始注释编码轮,以确定2个注释者(RB和MC)之间的互解释器协议,并完善注释方案。在注释者的一致意见下,被认为与我们对JUUL的分析无关的类别(例如水烟)被排除在注释方案之外。此外,被认为过于具体的类别与密切相关的类别合并。例如,“工业”和“政策”这两个单独的类别被合并成一个单一的“工业和法规”类别。最终的注释方案由22个类别组成,这些类别与JUUL使用的主题、用户对JUUL的看法以及一个“无关”类别相关。我们的最终注释方案可在多媒体附录1中给出了这些注释类别的综合示例图1.为了将我们的分析仅限于JUUL使用,除非推文也包含关键字“JUUL”,否则包含JUUL以外关键字的推文将被注释为“无关”。此外,我们将未成年人标签限制在那些包含有关未成年元素的明确上下文证据的推文上(例如,“我的父母仍然不知道我在学校使用JUUL”,“FDA警告在高中使用JUUL”,“我16岁。th生日那天,我想要芒果JUUL豆荚”)。

图1所示。最终分类和合成推文示例,如手册注释所示。
查看此图

一旦译员协议超过可接受的科恩卡帕水平[37](即>0.7 [38]),其余手工标注过程由一名标注员(RB)完成。排除用于互解释器协议的推文,在手动注释期间总共注释了4000条推文,以确保有足够数量的推文用于训练机器学习分类器。

数据预处理

使用自然语言工具包(NLTK) [39-一个广泛使用的用于分析文本数据的Python工具包-我们的手动注释推文使用TweetTokenizer工具进行了标记化。该工具将字符分割为单独的标记,同时还删除标点符号、@字符和其他无关字符。TweetTokenizer还能够处理和标记表情符号和表情符号。由于这些字符在现代文本中经常用于表达情感和情绪,因此它们在理解tweet内容时是必不可少的。因此,我们在推文中保留了表情符号和表情符号,并将它们标记为文字本身。

然后将所有标记转换为n-gram文本序列。n-gram(即单字母、双字母、三字母)是一个连续的序列n在自然语言处理中将原始文本转换为可由机器学习演算法轻易处理的特征(图2)。

图2。n图的可视化。n-gram可以被描述为n项的序列,可以编码单个单词之外的额外语义内容,并且一旦矢量化,可以用作机器学习算法中的特征。
查看此图

机器学习分类

为了自动分类与JUUL相关的推文,我们应用监督机器学习算法来识别与未成年人使用JUUL、积极情绪和消极情绪相关的推文。这种基于机器学习的方法的目标是确定数据的预测函数,其中看不见的数据可以准确地分类为包含未成年人使用JUUL、积极情绪或消极情绪。JUUL相关推文的高效和自动分类提供了对JUUL的感知和使用模式的快照,并有可能扩展分析,而不仅仅是手动注释实际执行的分析。我们用于分类的算法是逻辑回归、伯努利naïve贝叶斯和随机森林分类器。这三种分类算法的描述可在图3

选择这些模型是因为它们在基于twitter的分类任务中计算简单且效率高[3440-42]。每个分类器的输入由特征选择确定的最显著特征组成(即,自动识别模型性能的基本术语的过程,其余部分被丢弃)。

这一特征选择是使用Sci-Kit Learn (sklearn) [43]是另一个经常用于文本分析的Python工具包。使用SelectKBest工具比较每个特征的卡方统计量,并保留数据集中最明显的特征。除了减少模型过拟合的机会之外,由于去除了被认为不相关的特征,特征选择提高了模型的性能。一旦选择了合适的特征范围,就对每个算法的超参数进行优化。这种超参数优化是通过sklearn的GridSearchCV工具进行的,该工具通过指定的模型参数进行迭代,并使用10倍交叉验证确定最佳执行模型。最后,我们将执行最优的模型应用于其余未注释的tweet。

使用以下4个指标来评估各种模型的性能:准确性,精度(正预测值),召回率(灵敏度)和F1分数(精度和召回率的调和平均值)。这些指标是NLP中的标准,反映了分类器对手头任务进行有效分类的能力[4445]。我们的目标是开发能够在所有4个指标上表现良好的分类器,并且在评估总体性能时考虑了所有4个指标。

图3。简要描述了用于分类带注释的推文的3种机器学习算法。
查看此图

手动推特内容分析

在注释过程中分析的4000条推文中,有3152条(78.80%)与JUUL相关,并明确提到了JUUL或JUUL相关的配件,如JUUL pods和充电器。在相关tweets中,最常见的类别是第一人称使用或体验(1792/3152,56.85%)。使用JUUL作为戒烟方法(45/3152,1.43%)和首次使用JUUL(38/3152, 1.21%)的比例最低。总体上对JUUL的正面情绪(1052/3152,33.38%)大于负面情绪(683/3152,21.67%),1416条tweet(1416/3152, 44.92%)表现出中性情绪。在排除新闻、媒体、营销推文的情况下,对JUUL的正面评价为33.91%(941/2775),而负面评价为19.14%(531/2775)。最后,216条推文(216/3152,6.85%)提到了使用JUUL的潜在健康益处或危害,586条推文(586/3152,18.59%)提到了JUUL豆荚或口味。看到表1为手动标注中获得的比例和频率。

表1。推文手动标注的类别比例和频率(n=3152)。
类别一个 比例,% 频率

第一人称经验 56.85 1792
中性情绪 44.92 1416
积极的情绪 33.38 1052
负面情绪 21.67 683
JUUL味道/豆荚 18.59 586
的意见 15.96 503
新闻/媒体 9.58 302
其他物质 9.55 301
行业/监管 8.95 292
经验:其他 7.99 252
健康的影响 6.85 216
未成年人 6.03 190
商品 4.89 154
幽默 3.20 101
Suorin 2.54 80
市场营销 2.38 75
快乐 2.09 66
厌恶 1.71 54
渴望 1.46 46
停止 1.43 45
开始 1.21 38

一个类别不是相互排斥的。

未成年人JUUL提及和情感的机器学习分类

使用监督机器学习算法,我们创建了模型来分类Twitter用户中未成年人对JUUL的提及和对JUUL的情绪。为了评估不同的模型,我们使用每个模型的500个最相关的特征来比较所有3种算法的测试指标(表2)。在所有3个分类任务中,随机森林模型都优于逻辑回归和伯努利naïve贝叶斯模型。在对与未成年人使用JUUL相关的推文进行分类时,与逻辑回归模型(94%准确率)相比,随机森林模型产生了更高的准确率(99%准确率),并且大大高于伯努利naïve贝叶斯模型(78%准确率;图4)。当比较模型对积极和消极推文情绪分类的性能时,随机森林模型的表现明显优于逻辑回归模型(分别为72%和78%的准确率)和伯努利naïve贝叶斯模型(分别为69%和62%的准确率)(分别为82%和91%)。当将我们的随机森林分类器应用于其他看不见的数据(7356条未注释的推文)时,我们的模型将7356条推文中的109条分类为与未成年人有关(1.48%)。这一比例低于人工标注过程中被归类为未成年人相关的推文(190/3152,6.03%),这可能是由于存在先前未见过的与未成年人使用JUUL相关的术语。

表2。测试3种算法对所有3个分类任务的度量,以及每个分类任务在500个特征下的平均模型性能。
测试度量和性能 逻辑回归 伯努利naïve贝叶斯 随机森林
Acc一个 F 前的b 矩形c Acc F 前的 矩形 Acc F 前的 矩形
未成年人使用JUUL 0.94 0.94 0.95 0.92 0.78 0.71 0.99 0.57 0.99 0.99 0.99 0.99
积极的情绪 0.72 0.69 0.82 0.69 0.69 0.63 0.83 0.53 0.82 0.82 0.80 0.75
负面情绪 0.78 0.77 0.85 0.73 0.72 0.66 0.98 0.50 0.91 0.91 0.90 0.94
平均模型性能 0.81 0.80 0.87 0.78 0.73 0.67 0.93 0.53 0.91 0.91 0.90 0.89

一个Acc:准确性

bPrec:精度

c娱乐:回忆

图4。模型在500个特征下对未成年推文进行分类的性能线形图,以及未成年推文最具辨识力的前10个特征。
查看此图

主要研究结果

除了使用Twitter支持之前的JUUL研究外[27-29],我们的研究结果确定了Twitter用户理解和使用JUUL的关键因素。在我们的研究中,只有1.43%(45/3152)的注释推文提到使用JUUL作为戒烟方法。这一发现似乎与JUUL的既定使命不符,该使命是通过消除可燃香烟的使用,并用据称危害较小的JUUL产品取而代之,从而改善吸烟者的生活。46]。这一观察结果也与2019年的一项调查结果不一致,该调查显示,大约20%的18-24岁的人开始使用JUUL,试图戒掉可燃烟草。47]。另一项研究表明,年轻人似乎不仅在尝试JUUL,而且还习惯性地使用该设备。48]。除了我们的研究结果外,这些结果表明,推特可能被视为一种获取信息的方法,以促进年轻人使用和购买JUUL。

此外,只有6.85%(216/3152)的带注释的推文提到了使用JUUL的潜在健康益处或危害,这一结果与Morean等人的发现一致[18]并提出了JUUL使用者是否认识到高水平尼古丁暴露的已知影响以及产生尼古丁依赖和随后的尼古丁成瘾的可能性的问题。虽然使用JUUL的长期影响尚未确定,但有证据支持这样一种观点,即青少年尼古丁暴露可能在神经化学、结构、认知和行为过程的有害改变中发挥重要作用[49]。

在删除包含新闻和媒体相关内容的未成年推文后,47%(56/118)的未成年推文提到了使用JUUL的第一人称体验,21%(12/56)的推文提到了JUUL的豆荚和口味——这一发现与之前的文献一致[28]。此外,在那些未成年人提到的第一人称中,32%(18/56)包含积极情绪(例如,“我非常喜欢我的JUUL”),相比之下,23%(13/56)包含消极情绪(例如,“JUUL太恶心了”)-这是我们预期的发现,因为与其他终端设备相比,pod mod设备在年轻人中的受欢迎程度[50]。

尽管我们注释的大多数推文都包含对JUUL的中性情绪(1416/3152,44.92%),但总体上推文包含的积极情绪(1052/3152,33.37%)多于消极情绪(683/3152,21.67%)。近20%(586/3152,18.59%)的JUUL相关推文提到了JUUL豆荚或口味,推特似乎经常被用来分享对各种JUUL配件(如豆荚或口味)的看法,以及收集有关此类配件采购信息的手段。从表面上看,Twitter似乎可以被个人用来分享有关JUUL的信息,从而促进其使用;有必要进行更多的定性研究,以了解个人接触这些内容的程度。这一发现还表明,正如之前的工作所指出的那样,利用Twitter开展教育活动,向公众宣传JUUL的使用情况是有潜力的[16]。

在我们开发的所有机器学习模型中,我们的随机森林模型在所有3个分类任务中表现最好。随机森林的性能可以主要归因于算法本身的性质。由于随机森林是包含输入特征随机子集的决策树的集合,因此该算法对离群数据具有弹性,并且最终分类基于组成决策树的“多数投票”[51]。此外,随机森林相对容易实现和计算简单使其成为烟草控制研究人员在基于twitter的ENDS监测中使用的可行候选者。

限制

我们的工作有一些局限性需要考虑。首先,我们的数据是通过使用关键字搜索的免费1% Twitter API获得的,而不是整个Twitter“消防水带”数据集;因此,有可能在研究期间没有收集到所有与juul相关的推文。此外,我们的关键词列表(JUUL, Phix, Sourin, myblu, Aspire Breeze, vaping pod, pod mod和vape pod)并不详尽,也不包括所有在美国可用的pod mod设备。我们也不能假设推特用户或他们的推文完全代表个人健康行为的一般人群。

其次,一些标注类别的频率相对较低,我们的模型可能存在过拟合的风险。在机器学习中,过拟合可以被描述为一种模型,它可以准确地识别模式,并在训练数据上表现良好,但当应用于以前未见过的数据时,性能会下降[52]。例如,我们的算法可能适合它所训练的数据,但如果呈现的是以前从未见过的数据,它可能无法保持这种准确性,因为算法无法识别新数据中的模式。

此外,手工标注过程中对推文内容的解释往往是主观的,因为推文内容简短,缺乏语法结构,使用夸张、成语等。由于手动注释是一项固有的解释性任务,我们试图通过计算注释者之间的互解释器协议来保持注释之间的一致性,同时在为tweet分配标签时也关注显式上下文语言。

最后,本研究的结果是初步的,为了从我们的工作中得出政策启示,这些分类算法应该进一步研究和使用其他未见过的数据进行验证。未来的工作应该着眼于将这些分类器应用于未标记的数据,进行错误分析,并根据需要改进算法。在进一步验证之前,这些分类器可用于自动对大量推文进行分类,使研究人员能够进一步了解JUUL如何在年轻人中传播,并提出政策变化以打击未成年人使用ENDS。

结论

我们的分析提供了JUUL在Twitter上的代表的快照,并为未来的研究工作提出了几个有趣的观察结果。我们的研究表明,推特上的大多数JUUL用户并不使用JUUL作为戒烟的方法。此外,很少有用户在推特上谈论使用JUUL对健康的潜在影响。使用这个人工标注的语料库作为训练数据,我们开发了3个有监督的机器学习模型来准确分类与未成年人使用JUUL相关的推文以及对JUUL的情绪。在这3个模型中,我们的随机森林分类器最准确地预测了未成年人juul相关的推文及其情绪。该算法的应用是理解Twitter上未成年人使用JUUL的一种新颖的分析方法,通过进一步的研究和验证,可以促进未来对Twitter上未成年人使用JUUL模式的研究。

致谢

本出版物中报道的研究得到了美国国立卫生研究院国家药物滥用研究所的部分支持,奖励号为R21DA043775。内容完全是作者的责任,并不一定代表美国国立卫生研究院的官方观点。

利益冲突

没有宣布。

多媒体附录1

与juul相关的tweet注释方案。

PDF文件(adobepdf文件),168kb

  1. 王涛,王志强,王志强,王志强。中国中学生烟草产品使用状况研究——中国烟草科学,2011-2017。MMWR Morb Mortal weekly Rep 2018 june 08;67(22):629-633 [j]免费全文] [CrossRef] [Medline]
  2. Cullen KA, Ambrose BK, Gentzke AS, Apelberg BJ, Jamal A, King BA。现场记录:电子烟和任何烟草产品在初高中学生中的使用-美国,2011-2018。《凡人周刊》2018年11月16日;67(45):1276-1277 [免费全文] [CrossRef] [Medline]
  3. Cullen KA, Gentzke AS, Sawdey MD, Chang JT, Anic GM, Wang TW,等。2019年美国青少年电子烟使用情况。2019年11月5日;322(21):2095 [j]免费全文] [CrossRef] [Medline]
  4. 截至2018年,克拉弗·r·Juul在互联网市场的份额为76%。温斯顿-塞勒姆杂志2019年1月08日。URL:https://www.journalnow.com/business/juul-ends-with-percent-market-share/article_6f50f427-19ec-50be-8b0c-d3df18d08759.html[2019-10-23]访问
  5. 杨建军,杨建军,刘建军,等。中国青少年对电子烟的认知与使用。JAMA network Open 2018 Oct 05;1(6):e183535 [j]免费全文] [CrossRef] [Medline]
  6. Strongin RM。电子烟化学与分析检测。化学工程学报,2019年6月12日;12(1):23-39 [j]免费全文] [CrossRef] [Medline]
  7. Walley SC, Wilson KM, Winickoff JP, Groner J.公共卫生危机:电子烟,Vape和JUUL。儿科2019 Jun 23;143(6):e20182741 [j]免费全文] [CrossRef] [Medline]
  8. Leventhal AM, Miech R, Barrington-Trimis J, Johnston LD, O'Malley PM, Patrick ME。美国年轻人使用的电子烟口味。2019年11月5日[免费全文] [CrossRef] [Medline]
  9. Juul暂停销售调味电子烟,并签署和解协议,停止向青少年互联网营销。美国国家公共电台。2019年10月17日。URL:https://www.npr.org/sections/health-shots/2019/10/17/771098368/juul-suspends-sales-of-flavored-vapes-and-signs-settlement-to-stop-marketing-to-[2020-08-21]访问
  10. Benowitz NL, Henningfield JE。建立尼古丁成瘾的阈值。对烟草管制的影响。中华医学杂志,1994;31(2):123-125。[CrossRef] [Medline]
  11. Taghavi S, Khashyarmanesh Z, Moalemzadeh-Haghighi H, Nassirli H, Eshraghi P, Jalali N,等。伊朗国内香烟、进口香烟和烟斗烟草的尼古丁含量。成瘾者健康2012;4(1-2):28-35 [j]免费全文] [Medline]
  12. 关于JUUL的6个重要事实。真相倡议2018年8月20日。URL:https://truthinitiative.org/research-resources/emerging-tobacco-products/6-important-facts-about-juul[2020-08-21]访问
  13. j .尼古丁军备竞赛:JUUL与高尼古丁产品市场。2019年11月28日(6):623-628。[CrossRef] [Medline]
  14. 邵晓明,Friedman TC。Pod-mod与传统电子烟:尼古丁化学、pH值和健康影响。[J] .应用物理学报,1985;2020 Apr 01;128(4):1056-1058。[CrossRef] [Medline]
  15. 刘建军,刘建军,刘建军,等。氨和其他化学基烟草添加剂对香烟尼古丁释放的影响。烟碱控制杂志2004;6(2):199-205。[CrossRef] [Medline]
  16. O'Connell G, Pritchard JD, Prue C, Thompson J, Verron T, Graff D,等。一项随机、开放标签、交叉临床研究,旨在评估美国成年吸烟者中含有尼古丁盐配方的香烟和电子烟的药代动力学特征。实习生急诊医学2019 Sep 2;14(6):853-861 [j]免费全文] [CrossRef] [Medline]
  17. Kimbrough D. Vaping:你需要知道的。美国化学学会。2019年12月https://www.acs.org/content/acs/en/education/resources/highschool/chemmatters/past-issues/2019-2020/dec-2019/vaping.html[2020-08-21]访问
  18. Morean ME, Bold KW, Kong G, Gueorguieva R, Camenga DR, Simon P,等。青少年对JUUL电子烟尼古丁强度及电子烟现状的认知药物酒精依赖2019年11月1日;204:107512。[CrossRef] [Medline]
  19. 美国卫生与公众服务部。预防青少年和年轻人吸烟:外科医生的报告。亚特兰大,乔治亚州:美国卫生与公众服务部、疾病控制和预防中心、国家慢性疾病预防和健康促进中心、吸烟与健康办公室;2012.
  20. Willett JG, Bennett M, Hair EC, Xiao H, Greenberg MS, Harvey E,等。青年和青年成年人对JUUL的认识、使用和看法。2019年1月18日;28(1):115-116。[CrossRef] [Medline]
  21. 刘建军,刘建军,刘建军。青少年JUUL用户的成瘾与依赖:一种混合方法分析。中国心理医学学报(自然科学版);2009;31(2):444 - 444。[CrossRef] [Medline]
  22. Case KR, Hinds JT, Creamer MR, Loukas A, Perry CL。谁是JUULing,为什么?青少年电子尼古丁传送系统使用者的调查。中国青少年健康杂志;2020;36(1):48-55。[CrossRef] [Medline]
  23. Soneji S, Barrington-Trimis JL, Wills TA, Leventhal AM, Unger JB, Gibson LA等。青少年和年轻人初始使用电子烟与随后吸烟之间的关系:一项系统综述和荟萃分析美国儿科杂志2017年8月1日;171(8):788-797 [j]免费全文] [CrossRef] [Medline]
  24. 没吃VH。青少年和年轻人使用电子烟:一个主要的公共卫生问题。美国儿科杂志2017年3月1日;171(3):209-210。[CrossRef] [Medline]
  25. 张建军,张建军。青少年社交媒体研究与发展[j]。皮尤研究中心互联网与技术。2018年5月31日。URL:https://www.pewresearch.org/internet/2018/05/31/teens-social-media-technology-2018/[2020-08-21]访问
  26. 自2018年以来,美国成年人使用包括Facebook在内的社交媒体的比例基本没有变化。皮尤研究中心2019年4月10日发布。URL:https://www.pewresearch.org/fact-tank/2019/04/10/share-of-u-s-adults-using-social-media-including-facebook-is-mostly-unchanged-since-2018/[2019-10-23]访问
  27. 刘建军,刘建军,刘建军。就流行了USB闪存盘形状的电子烟Juul。2019年1月13日;28(1):110-112 [j]免费全文] [CrossRef] [Medline]
  28. Allem J, Dharmapuri L, Unger JB, Cruz TB。推特上与juul相关的帖子的特征。药物酒精依赖2018年9月01日;190:1-5 [j]免费全文] [CrossRef] [Medline]
  29. 黄军,段志,郭军,Binns S, Vera LE, Kim Y,等。电子烟与JUUL: JUUL的非凡增长和营销如何改变了美国电子烟零售市场。2019年3月31日;28(2):146-151 [j]免费全文] [CrossRef] [Medline]
  30. 张建军,张建军,李建军,等。在Instagram上描述juul相关帖子。2019年7月2日。[CrossRef] [Medline]
  31. Brett EI, Stevens EM, Wagener TL, Leavens EL, Morgan TL, Cotton WD等。社交媒体上JUUL讨论的内容分析:使用Reddit了解JUUL使用的模式和看法。药物酒精依赖2019年1月1日;1994:358-362。[CrossRef] [Medline]
  32. 朱凯,柯迪兹JB, Primack BA, Shensa A, Allem J, Miller E,等。JUUL:线上和线下传播。青少年健康杂志2018;63(5):582-586 [J]免费全文] [CrossRef] [Medline]
  33. Malik A, Li Y, Karbasian H, Hamari J, Johri A. Live, Love, Juul: Twitter用户与内容分析。[J]中华卫生杂志,2019;43(2):326-336。[CrossRef] [Medline]
  34. Myslín M,朱s,查普曼W,康威M.使用twitter调查吸烟行为和新兴烟草产品的认知。医学与互联网研究,2013年8月29日;15(8):e174 [J]免费全文] [CrossRef] [Medline]
  35. Alvaro N, Conway M, Doan S, Lofi C, Overington J, Collier N.众包Twitter注释识别处方药使用的第一手经验。[J]中国生物医学工程学报,2015;28 (5):564 - 564 [J]免费全文] [CrossRef] [Medline]
  36. 开发人员。Twitter开发者。URL:https://developer.twitter.com/[2020-08-21]访问
  37. 王文杰。标准比额表的一致性系数。教育与心理测量2016年07月02日;20(1):37-46。[CrossRef]
  38. 引用本文:张建明。互译者信度:kappa统计。生物化学医学杂志(Zagreb) 2012;22(3):276-282 [j]免费全文] [Medline]
  39. 李建军,李建军,李建军。基于Python的自然语言处理:基于自然语言工具箱的文本分析。塞瓦斯托波尔,加利福尼亚州:O'Reilly Media, Inc;2009年6月12日。
  40. 李建军,李建军,李建军,等。基于文本分类的酒精使用相关推文自动检测方法研究。2014 IEEE第十五届信息重用集成国际会议;2014年8月13-15日;加州红木城[CrossRef]
  41. 徐斌,郭翔,叶勇,程军。一种改进的随机森林文本分类器。JCP 2012 12月1日;7(12)[免费全文]
  42. McCallum A, Nigam K.朴素贝叶斯文本分类事件模型的比较。1998年发表于:AAAI-98文本分类学习研讨会;1998年7月26日至27日;麦迪逊,WI。
  43. 陈建军,陈建军,陈建军,陈建军,等。Scikit-learn: Python中的机器学习。机器学习研究;2011;12:2825-2830 [j]免费全文] [CrossRef]
  44. 李建军,李建军,李建军,等。准确度召回率与ROC曲线的关系。纽约:计算机协会;2006: ICML '06:第23届国际机器学习会议;2006年6月25日至29日;宾夕法尼亚州匹兹堡。[CrossRef]
  45. Goutte C, Gaussier E. In: Losada DE, Fernández-Luna JM,编辑。精准度、查全率与f -分数的机率解释与评鉴意义。柏林,海德堡:施普林格出版社;2005:345 - 359。
  46. 尤尔的说法。URL:https://www.juul.com/about-juul[2019-11-05]访问
  47. 帕特尔M, Cuccia A, Willett J,周勇,Kierstead EC, Czaplicki L,等。成年烟草使用者中JUUL的使用和开始使用的原因。2019年11月19日;28(6):681-684。[CrossRef] [Medline]
  48. 刘建军,刘建军,刘建军,刘建军。全国青年和年轻成人样本中JUUL使用的流行率及其相关因素。2019年11月29日;28(6):603-609。[CrossRef] [Medline]
  49. 袁m, Cross SJ, Loughlin SE, Leslie FM。尼古丁和青少年的大脑。中国生物医学工程学报,2015;33(6):391 - 391。[CrossRef]
  50. Krishnan-Sarin S, Jackson A, Morean M, Kong G, Bold KW, Camenga DR,等。高中生使用的电子烟设备。药物酒精依赖2019一月01;1994:395-400 [j]免费全文] [CrossRef] [Medline]
  51. 李建军,李建军,李建军,等。随机森林与决策树。国际计算机科学学报2012;9(5)[免费全文]
  52. 机器学习中的过拟合和欠计算。ACM第一版。1995年9月27日(3):326-327。[CrossRef]


Acc:精度
API:应用程序编程接口
结束:电子尼古丁输送系统
NLP:自然语言处理
前的:精度
矩形:回忆


G·艾森巴赫编辑;提交07.05.20;G . Nicol, K . McCausland的同行评议;对作者的评论22.06.20;收到17.07.20修订版本;接受10.08.20;发表02.09.20

版权

©Ryzen Benson, Mengke Hu, Annie T Chen, Subhadeep Nag, Shu-Hong Zhu, Mike Conway。原发表于JMIR公共卫生与监测(http://publichealth.www.mybigtv.com), 2020年9月2日。

这是一篇根据知识共享署名许可(https://creativecommons.org/licenses/by/4.0/)的条款发布的开放获取文章,该许可允许在任何媒介上不受限制地使用、分发和复制,前提是原始作品首次发表在JMIR公共卫生与监测上,并适当引用。必须包括完整的书目信息,到http://publichealth.www.mybigtv.com上原始出版物的链接,以及版权和许可信息。


Baidu
map