跟着生成式人工智能（GAI，Generative Artificial Intelligence）的出圈，以 ChatGPT 和 Character。ai 为代表的东西已深度融入人们的糊口。然而，不成轻忽的是，GAI 手艺正在普遍使用的同时，也带来了很多尚未被注沉的平安和伦理问题。那么，对于生成对新手艺和洽奇的青少年群体而言，他们是若何利用这些东西，背后又躲藏着哪些平安和心理问题？为摸索上述问题的谜底，美国伊利诺伊大学喷鼻槟分校和州立大学等团队合做，通过度析 Reddit 平台相关贴文并连系青少年及家长的深度，全面了三大焦点发觉：起首，青少年群体呈现出多样化的 GAI 利用模式，包罗辅帮进修、社交文娱等场景；其次，家长取青少年对 GAI 平安风险的认知存正在显著差别，这种认知鸿沟可能加剧潜正在风险；最初，家长正在实施监管时面对手艺理解不脚、代际沟通妨碍等多沉挑和。这项研究不只了青少年取 GAI 互动的实正在环境，还为政策制定者、教育工做者和手艺开辟者供给了适用的。该研究源于课题组对青少年取 GAI 互动现状的两个焦点察看：一是青少年群体的 GAI 利用模式尚未被系统性研究；二是家长正在这类手艺中的脚色存正在显著盲区。研究人员发觉，虽然很多家长认识到手艺正在孩子成长中的主要性，但他们往往对 GAI 的利用体例、潜正在风险以及若何无效办理缺乏清晰的认知。从现实需求的角度来看，跟着 AI 手艺的普及，若何帮帮青少年平安、高效地利用这些东西，以及若何让家长和科技公司更好地阐扬监管和感化，已成为火急需要处理的问题。研究人员但愿填补这一范畴的学问空白，同时为手艺设想和政策制定供给有价值的参考。正在这项研究中，他们采用了 Reddit 数据阐发和两种方式。正在 Reddit 平台上，研究团队阐发了涉及青少年利用 GAI 东西的帖文，试图领会他们正在这一公开空间平分享的实正在体验和担心。取此同时，该课题组还取来自分歧布景的青少年及其家长进行深切，切磋他们对GAI东西的见地和利用模式。这种双注沉角不只丰硕了研究内容，也让他们可以或许更全面地舆解这一问题的复杂性。研究发觉，青少年不只用这些东西来完成进修使命，更把它们当做“伴侣”或者“倾吐对象”。正在孤单时，他们会取 AI 对话，有些人以至依赖 AI 来缓解压力或者寻求感情支撑。让研究人员感应的是，有一名受访青少年曾对他们暗示：“我不大白本人怎样会和 AI 聊了这么多，聊到连现实糊口中的伴侣都不联系了。”这种将 AI 拟人化的倾向正在 Character。ai 等平台上尤为凸起，部门青少年以至将 AI 视为“伴侣”，并坦言“AI 老是坐正在我这边，有时候比伴侣还懂我”。这种心理依赖反映了青少年对感情支撑和社交需求的奇特特征，但也可能因而带来必然的负面影响。这让研究人员认识到，这不只仅是个手艺问题，更是一个社会问题。比拟之下，家长对孩子若何利用这些东西却知之甚少，以至低估了此中的潜正在风险，好比虚假消息、现私泄露和心理依赖等问题。另一方面，GAI 的交互存正在风险现患——其回应并不老是负义务的。当青少年向 AI 寻求感情或行为时，AI 可能给出不合适的谜底。一位受访者提到，当本人表达负面情感以至倾向时，AI 的回覆“看起来很合理”，但却可能滋长不良行为。更值得的是，一些青少年还会操纵 GAI 处置风险行为，好比正在 Snapchat 等平台生成模仿群聊，这种互动场景给内容监管带来了新的挑和。研究还发觉，青少年和家长正在风险认知上的差别显著：青少年次要担忧对 AI 成瘾、以及取 AI 成立不健康的感情联系；而家长则更关心数据收集和孩子接触不适宜内容的问题。这种认知差别间接影响了家庭正在 GAI 利用上的协做。正如一位家长所说：“我以至不晓得孩子用的是什么软件，只是听他偶尔提到 AI。”虽然如斯，仍是有部门炊长测验考试积极介入孩子的 AI 利用行为。有家长要求孩子向他们展现若何利用 AI，并配合会商生成内容能否精确、有哪些潜正在风险。不外他们遍及认为，缺乏合适的东西让这种参取变得很坚苦。目前很多手艺手段并未特地为家长和 GAI 设想，导致他们正在监视和指导孩子时常常“力有未逮”。让研究团队印象深刻的是，青少年往往表示出对规范指点的强烈需求。他们有时会自动问：“如许实的好吗？会不会对我欠好？该当怎样办？”这些问题显示出他们对本人的担心和对帮帮的巴望，并但愿有人能告诉他们“该当怎样做才是对的”。这也让研究人员认识到，良多时候，青少年的问题不是不想改变，而是缺乏一个明白的标的目的或者靠得住的指点。这也让其愈加果断，手艺开辟者、教育者以至家长都该当坐出来，配合指导和支撑他们。审稿人对该工做评价称：“这项研究了良多深刻的洞察，好比青少年若何利用 GAI 东西，像寻求感情支撑、社交互动等。”他们还认为，把 Reddit 数据阐发和相连系，是一种度、具有价值的体例。此外，课题组也正在此根本长进一步推进后续研究，近日发布了新论文。该研究通过整合阐发 Reddit、AI 风险案例数据库和青少年实正在对话记实，系统建立了一个涵盖心理健康、行为成长、无害内容等六大维度、共 84 类风险的青少年 GAI 风险分类系统，为后续的风险检测、干涉机制设想和平台管理供给了理论根本 [2]。通过研究青少年和家长取 GAI 的互动体例，研究团队发觉该范畴具有诸多潜正在的使用场景，特别是正在家庭、教育、手艺开辟和政策制定方面。家庭支撑东西是当前需求最火急的标的目的。研究发觉，家长对孩子取 AI 的互动缺乏领会，而现有东西正在应对 GAI 的复杂性时存正在较着短板。及时反馈取通明性：供给及时动态演讲，包罗孩子的利用模式、生成内容的风险品级，以及潜正在情感问题的提醒，帮帮家长从“被动防御”转向“自动理解”。协做进修模式：东西不只仅是，好比配合核阅 AI 生成的内容，以及会商实正在性和潜正在风险，从而促进家庭沟通。立即风险预测取干涉：通过感情阐发和智能算法，提前预测可能的心理健康风险，并供给及时的干涉。正在中小学阶段普及 GAI 的根基学问，包罗若何识别虚假消息、现私以及避免心理依赖。这不只有帮于提高青少年的手艺素养，还能培育他们更的手艺不雅念。组织家长和孩子配合参取的手艺培训，帮帮家庭更好地领会 AI 手艺的劣势取风险。这种形式还能促进家庭之间的沟通，可提拔家长的参取感和信赖度。通过政策支撑，为家庭供给免费或低成本的 AI 利用指点和东西试用机遇，出格是帮帮那些敌手艺相对目生的家长。设想针对青少年的 GAI，供给进修和社交功能的同时，内置风险提示和顺应分歧春秋段的内容过滤机制。很多青少年将 AI 用做感情支撑东西，但现有手艺正在伦理和内容方面仍有不脚。将来的 AI 东西能够通过更精细的感情阐发和负义务的反馈机制，帮帮青少年获得实正积极的心理支撑，而不是陷入依赖或。目前，该课题组正正在勤奋把研究为现实使用。目前，他们已初步设想了一个家长敌对型的支撑东西。研究人员正正在测试并快速迭代，但愿能尽快推出这款东西。该系统的焦点是帮帮家长及时领会孩子的 AI 利用环境，它将供给简练的利用演讲和潜正在风险提示，还能够插手亲子互动的相关功能，让家长和孩子配合会商生成内容，以至通过东西培育孩子的性思维。据研究团队引见，将来他们最等候实现的一个标的目的是让手艺更切近家庭需求，帮帮家长不只是“监视”，还能实正参取孩子的数字糊口。这项研究也让研究人员认识到，GAI 手艺的影响远远超出了手艺本身，现实上是一个社会、家庭和心理层面的复杂问题。青少年正在利用这些东西时，所体验的不只是功能上的便当，更是感情、认同以至孤单感的填补。这种复杂性意味着，手艺设想、政策制定和家庭教育需要更慎密地连系，以配合应对这些挑和。此外，研究团队强调，这项研究不只是为了问题，更是为了鞭策改变。他们但愿这项研究能成为一个新起点，激发更多对青少年取 GAI 互动的关心，并为家庭、教育机构以及开辟者供给具体的标的目的，实正让手艺办事于人，而不是让人被手艺指导。

福建瓦房店职业技术学校信息技术有限公司