位置:首页 > 资讯大全 > AI人工智能

【专栏】人工智能如何保护在线世界中的用户

发布时间:2021-04-01 10:36:44

文章来源:互联网

访问次数:

导读:Z一代(https://blog.ryan-jenkins.com/who-is-generation-z-this-timeline-reveals-it-all)中超过74%的人将空闲时间都花在网上(平均每天大约10个小时),可以肯定地说,他们的在线和离线世界已经交织在一起。如今,随着社交媒体使用率的提高以及我们所有...

【专栏】人工智能如何保护在线世界中的用户5s1福利社

Z一代(https://blog.ryan-jenkins.com/who-is-generation-z-this-timeline-reveals-it-all)中超过74%的人将空闲时间都花在网上(平均每天大约10个小时),可以肯定地说,他们的在线和离线世界已经交织在一起。如今,随着社交媒体使用率的提高以及我们所有人在网上的生活越来越多,我们必须寻找减轻风险,保护我们的安全并过滤掉引起关注的通信的方法。向前迈进,人工智能(AI)先进的机器学习技术,在现代生活中起着重要作用,并且是当今社交网络如何运作的基矗5s1福利社

只需单击一下AI工具,例如聊天机器人,算法和自动建议,就会影响您在屏幕上看到的内容以及查看的频率,从而创建了自定义的供稿,该供稿已完全改变了我们在这些平台上进行交互的方式。通过分析我们的行为,深度学习工具可以确定习惯,喜好和不喜欢,仅显示他们期望您会喜欢的材料。人工智慧与这些深度学习系统的结合,不仅使滚动Feed感觉更加个性化,而且还提供了一种重要有效的方法来监视和快速响应我们在线上暴露的有害和威胁性行为,长期以来可能造成破坏性后果。5s1福利社

人工智能在使社交平台更安全方面的重要性5s1福利社

大多数社交网络上缺乏家长控制,这意味着要进入一个有害的环境,在这些平台上您不认识的用户数量会带来很大的风险。现实情况是,当今的青少年可以持续访问互联网,但大多数人在其数字生活中缺乏父母的参与。许多儿童在网上面对着日常挑战,目睹或目睹网络欺凌以及其他严重威胁,例如激进化,剥削儿童和自杀式聊天室的兴起,仅举几例,所有这些活动都在父母和家长的监督下进行。5s1福利社

人工智能的存在是为了改善人们的生活,但始终有人担心这些“机器人”将开始取代人类,即人与机器之间的经典“战斗”。相反,我们必须乐于利用并把握其可能性-网络安全是我们这个时代最大的挑战之一,通过利用AI的力量,我们可以开始反击具有有害后果并降低在线风险的行动。5s1福利社

先进的安全功能5s1福利社

事实证明,人工智能是对抗在线骚扰和有害内容传播的有效武器,而这些深度学习工具现在在我们的社会中发挥着重要作用,从而改善了虚拟世界和现实世界的安全性。可以利用AI来审核上传到社交平台的内容,并监视用户之间的交互-由于数量庞大,如果手动完成,这是不可能的。在Yubo我们使用一种称为神经网络学习的AI形式,即Yoti Age Scan,来准确估计存在怀疑或怀疑的帐户上的用户年龄-我们的用户必须为13岁才能注册,并且有单独的成人帐户(年龄超过18岁)。标记帐户将在几秒钟内得到审查,用户必须先验证其年龄和身份,然后才能继续使用该平台-这只是我们为保护年轻人在线而采取的重要步骤。每天仅在Facebook上上传超过1亿小时的视频和3.5亿张照片,对算法进行了编程,以切换令人难以置信的内容量,并在内容有害且不符合平台标准时删除帖子和用户。算法不断发展和学习,并且能够识别重复的帖子,了解视频中的场景背景,甚至可以识别情感分析-识别愤怒或嘲讽等音调。如果无法识别某个帖子,则将其标记为人工审核。使用AI来检查大多数在线活动,可以使主持人避免干扰可能会导致心理健康问题的内容。5s1福利社

AI还使用自然语言处理(NPL)工具来监视社交网络上用户之间的交互,并识别未成年人和弱势用户之间发送的不适当消息。实际上,大多数有害内容是由少数用户生成的,因此AI技术可用于识别恶意用户并确定其内容的优先级以供审核。机器学习使这些系统能够发现人类不可见的行为和对话模式,并可以提出新的类别以供进一步研究。凭借其先进的分析功能,人工智能还可以使信息的验证和帖子的真实性的验证自动化,以消除错误信息和误导性内容的传播。5s1福利社

释放人工智能在教育中的力量5s1福利社

年轻人上网时需要安全和刺激的环境。人工智能可用于通过实时警报和阻止程序主动地教育用户有关负责任的在线行为。在Yubo,我们的用户群仅由根Zers组成,我们采用先进的人工智能技术与人际交往的组合来监控用户的行为。我们的安全功能通过实时干预来防止共享个人信息或不适当的消息-例如,如果用户将要共享敏感信息,例如个人号码,地址或什至不适当的图像,他们将收到来自Yubo的弹出式窗口强调共享信息可能产生的影响。然后,用户将必须先确认他们要继续进行操作,然后才能被允许这样做。此外,如果用户尝试共享显示图像或不适当的请求,则Yubo将阻止与目标收件人共享该内容,然后再点击发送。我们不仅在教育用户方面与共享个人信息有关的风险,而且还在促使他们在参与可能对自己或他人造成负面影响的活动之前重新考虑其行为。我们致力于为Z世代提供连接和社交的安全场所-我们知道我们的用户群已经处于一个时代,如果我们现在可以教育他们有关在线危险和最佳做法的知识,那么我们就可以以积极的方式塑造他们的行为,从而为未来。5s1福利社

应用AI工具实现社会公益5s1福利社

社交媒体在安全使用的情况下是一种强大的工具,可让人们进行协作,建立联系,鼓励创新并有助于提高人们对重要社会问题的认识以及许多其他积极因素。在这些数字世界中具有如此重要的地位,当务之急是对用户进行教育和保护,以便他们能够以最负责任的方式浏览这些平台并从中受益。我们已经看到AI技术对社交网络的积极影响-它们对于分析和监视每天在这些平台上活跃的大量数据和用户至关重要。5s1福利社

在Yubo,我们知道保护我们的用户是我们的责任,并已采用先进的AI技术来帮助减轻任何风险,我们将继续利用AI保护用户免受有害互动和内容的侵害,并开始就不当行为。人工智能工具为使社会空间更安全提供了无限的潜力,我们需要利用它们必须为我们所有人增加福祉的力量。5s1福利社

  《【专栏】人工智能如何保护在线世界中的用户》更新于时间:2021-04-01 10:36:44;由本站小编进行发布,目前浏览的小伙伴达到,感谢你们的支持,后期福利社小编会继续为大家更新更多相关的文章,希望广大网友多多关注福利社工作心得栏目,如果觉得本站不错,那就给我们一个分享的支持吧!

本文链接:https://www.fulis.net/zxdq/ai/7997.html