减轻欺凌和不良内容的制作方法

减轻欺凌和不良内容
1.相关申请的交叉引用
2.本技术要求2019年6月18日提交的美国申请第62/863,229号和2019年8月19日提交的美国申请第16/544,793号的优先权。出于所有目的，美国申请第62/863,229号和美国申请第16/544,793号的内容通过引用以其整体被并入本文。
技术领域
3.本技术描述了用于赋予网络欺凌(cyberbullying)的受害者权力来控制欺凌者可以通过数字平台向受害者或关于受害者散播负面的、有害的、虚假的、刻薄的或其他不良的(objectionable)内容的程度的技术。
4.背景
5.欺凌，例如攻击性或不想要的行为，会对欺凌者及他或她的受害者都会造成严重而持久的后果。欺凌包括涉及欺凌者和受害者之间真实或感知到的权力不平衡的行为。欺凌可以包括身体上的、言语上的和/或社交的欺凌，并且可以亲自实施或通过用户可以共享内容的一个或更多个数字平台(例如，文本消息、即时消息、电子邮件、社交媒体、游戏或其他应用)来实施。通过一个或更多个数字平台实施的欺凌(通常被称为网络欺凌)已经变得越来越普遍，并且可以包括向另一用户或关于另一用户发送、张贴(posting)或共享负面的、有害的、虚假的、刻薄的或其他不良的内容等。
6.发明概述
7.根据本发明的第一方面，提供了一种方法，包括：从与第一用户账户相关联的第一计算设备接收限制从第二用户账户接收的并具有特征的内容的呈现的请求；从与第二用户账户相关联的第二计算设备接收具有该特征的内容项；至少部分地基于限制呈现的请求，向与第一用户账户相关联的第一计算设备发送呈现内容项的第一表示的第一指令；以及向与第二用户账户相关联的第二计算设备发送呈现内容项的第二表示的第二指令，内容项的第二表示不同于内容项的第一表示。
8.在一些实施例中，特征优选地包括以下中的至少一项：与第一用户账户相关联或寻址到第一用户账户。
9.在一些实施例中，内容项的第一表示优选地包括内容项存在的指示和可用于使内容项由第一计算设备呈现的控件。
10.在一些实施例中，内容项的第二表示优选地将内容项表示为好像对一个或更多个其他用户账户可见。
11.在一些实施例中，内容项优选地包括第二用户账户的评论，该评论与第一用户账户发布的另一内容项相关联。
12.在一些实施例中，该方法还可以包括向第一计算设备发送呈现可选择控件的指令，该可选择控件可用于批准评论或不批准评论中的至少一项。
13.在一些实施例中，该方法还可以包括：从第一计算设备接收选择可选择控件来不批准评论的指示；以及至少部分地基于接收到选择可选择控件来不批准评论的指示，进行
以下操作中的至少一个：向第一计算设备发送停止呈现内容项的第一表示的指令；或者避免向与第三用户账户相关联的第三计算设备发送内容项的第二表示。
14.在一些实施例中，该方法还可以包括：从第一计算设备接收选择可选择控件来批准评论的指示；以及至少部分地基于接收到选择可选择控件来批准评论的指示，进行以下操作中的至少一个：向第一计算设备发送呈现内容项的第二表示的指令；或者向与第三用户账户相关联的第三计算设备发送呈现内容项的第二表示的指令。
15.根据本发明的第二方面，提供了一种系统，包括：一个或更多个处理器；以及存储指令的计算机可读介质，该指令在由一个或更多个处理器执行时使该系统：从与第一用户账户相关联的第一计算设备接收限制从第二用户账户接收的并具有特征的内容的呈现的请求；从与第二用户账户相关联的第二计算设备接收具有该特征的内容项；至少部分地基于限制呈现的请求，向与第一用户账户相关联的第一计算设备发送呈现内容项的第一表示的第一指令；以及向与第二用户账户相关联的第二计算设备发送呈现内容项的第二表示的第二指令，内容项的第二表示不同于内容项的第一表示。
16.在一些实施例中，内容项优选地包括从第二用户账户到第一用户账户的消息。
17.在一些实施例中，呈现内容项的第一表示的第一指令优选地包括在辅助收件箱中呈现消息存在的指示的指令。
18.在一些实施例中，优选地，指令还使系统：从第一计算设备接收查看消息的请求；以及向第一计算设备发送呈现消息和控件的指令，该控件可用于以下操作中的至少一个：解除限制从第二用户接收的内容的呈现；或者删除消息。
19.在一些实施例中，优选地，指令还使系统避免向第二计算设备发送消息已经在第一计算设备处呈现的通知。
20.根据本发明的第三方面，提供了一个或更多个计算机可读介质，该计算机可读介质存储指令，当由计算设备的一个或更多个处理器执行时，这些指令使计算设备：从与第一用户账户相关联的第一计算设备接收限制从第二用户账户接收的并具有特征的内容的呈现的请求；从与第二用户账户相关联的第二计算设备接收具有该特征的内容项；至少部分地基于限制呈现的请求，向与第一用户账户相关联的第一计算设备发送呈现内容项的第一表示的第一指令；以及向与第二用户账户相关联的第二计算设备发送呈现内容项的第二表示的第二指令，内容项的第二表示不同于内容项的第一表示。
21.在一些实施例中，内容项优选地包括第二用户账户的评论，该评论与第一用户账户发布的另一内容项相关联。
22.在一些实施例中，内容项的第一表示优选地包括内容项存在的指示和可用于使第一计算设备呈现内容项的控件。
23.在一些实施例中，内容项的第二表示优选地将内容项表示为好像对一个或更多个其他用户账户可见。
24.在一些实施例中，指令优选地还使计算设备：从第二计算设备接收包括第一用户账户的标识符的一部分的输入；确定第一用户账户的标识符的该部分小于与第一用户账户的标识符的相似性阈值水平；以及至少部分地基于第一用户账户的标识符的该部分小于相似性阈值水平，输出一个或更多个候选用户账户，该一个或更多个候选账户省略第一用户账户。
25.在一些实施例中，相似性阈值水平优选地至少部分地基于限制具有该特征的内容的呈现的请求。
26.在一些实施例中，指令优选地还使计算设备：从第二计算设备接收包括第一用户账户的标识符的一部分的输入；确定第一用户账户的标识符的该部分满足或超过与第一用户账户的标识符的相似性阈值水平；以及至少部分地基于第一用户账户的标识符的该部分满足或超过相似性阈值水平，输出包括第一用户账户的一个或更多个候选用户账户。
27.应当理解，这里讨论的适合于结合到本发明的方面或实施例中的任何特征都旨在可以推广到本发明的任何和所有实施例中。
28.附图简述
29.参考附图来描述详细描述。在图中，附图标记的最左边的数字表示附图标记首次出现所在的图。在不同的图中使用相同的附图标记表示相似或相同的部件或特征。
30.图1是可用于实现本文描述的示例技术的示例系统的示意图。
31.图2a-图2c示出了可用于使第一用户能够请求限制在该用户的帖子上张贴了不良评论的另一用户的账户的示例界面。
32.图3a和图3b示出了可用于使第一用户能够请求限制向该用户发送了不良消息的另一用户的账户的示例界面。
33.图4a-图4f示出了使用户能够查看和批准或不批准由受限账户张贴的评论的示例界面。
34.图5a-图5f示出了示例界面，该界面使用户能够查看由受限账户发送的消息，而不通知受限账户该限制和/或消息已经被阅读。
35.图6a和图6b示出了示例界面，该界面示出了应用阻力(friction)以使受限用户更难标记或提及限制用户(restricting user)。
36.图7a-图7c示出了可用于设置和管理受限账户的示例界面。
37.图8示出了说明可用于实现本文描述的示例技术的计算设备的示例系统的框图。
38.图9是示出可用于实现本文描述的示例技术的示例过程的流程图。
39.详细描述
40.如上所述，网络欺凌已经变得越来越普遍，并对用户构成重大风险。已经发现网络欺凌对欺凌者和他或她的受害者都会造成严重而持久的后果，包括抑郁、药物使用和自杀。受害者与网络欺凌作斗争的现有选择是不够的。例如，以前，受害者与网络欺凌作斗争的选择包括停止使用发生网络欺凌的数字平台，在数字平台上屏蔽(block)或以其他方式与欺凌者脱离关联，或在数字平台上或亲自与欺凌者对抗(confront)。这些选择中的每一个都有缺点。例如，在停止使用数字平台的情况下，受害者被剥夺了数字平台的好处，无法监控数字平台上关于他或她的言论，并且无法控制欺凌者可能在数字平台上张贴的关于他或她的内容。在屏蔽欺凌者或与欺凌者脱离社交的情况下，受害者可能会失去监控欺凌者在数字平台上关于他或她的言论的能力，并且欺凌者可能会意识到他或她已经被屏蔽，这可能会刺激欺凌者采取报复行动。在与欺凌者对抗的情况下，受害者冒刺激欺凌者造成额外的情感或身体伤害的风险。
41.本技术描述了用于赋予网络欺凌的受害者权力来控制欺凌者可以通过数字平台向他们或关于他们散播负面的、有害的、虚假的、刻薄的或其他不良的内容的程度的技术。
在一些示例中，本文描述的技术可以允许受害者请求将欺凌者指定为“受限制的(restricted)”以减轻欺凌者散播关于受害者的不良的内容的能力。本文描述的技术可以允许受害者监控由受限欺凌者向受害者或关于受害者发送、张贴或共享的内容，并且可以允许受害者决定是否批准该内容。本文描述的技术可以在不通知欺凌者的情况下实现，从而避免刺激欺凌者。例如，在一些示例中，一旦第一用户(受害者)已经将第二用户(欺凌者)指定为受限制的，则由第二用户(欺凌者)散播的内容可以对第二用户表现为“实时的(live)”(例如，可以表现为已经被发送、张贴、共享等)，但是可以不对其他用户(例如，联系人或其他第三方)可见，并且可以保持待定状态，直到第一用户(受害者)审查并批准或不批准该内容。如果第一用户(受害者)批准了内容，它将对其他用户可见。如果第一用户(受害者)不批准该内容，则该内容可以继续对第二用户(欺凌者)表现为“实时的”，但是将被从第一用户(受害者)的数字平台移除，并且将对其他用户(例如，联系人或其他第三方)不可见。附加地或替代地，数字平台可以应用“阻力”，以例如通过要求第二用户在向第一用户或关于第一用户散播内容时输入第一用户的更完整的用户名或其他名称，使第二用户(欺凌者)更难向第一用户(受害者)或关于第一用户(受害者)散播内容。应用这些技术，数字平台允许用户限制他们认为是欺凌或其他不良的内容被散播给他们或关于他们进行散播。此外，这些技术可以在不通知欺凌者的情况下实施，从而允许受害者在不刺激欺凌者的情况下减轻该情况。
42.在一些示例中，社交网络系统可以从与第一用户账户相关联的第一计算设备接收限制具有特征的内容的呈现的请求，其中该内容是从第二用户账户接收的。社交网络系统还可以从与第二用户账户相关联的第二计算设备接收具有该特征的内容项。社交网络系统可以基于限制呈现的请求，向与第一用户账户相关联的第一计算设备发送呈现内容项的第一表示的第一指令。社交网络系统还可以向与第二用户账户相关联的第二计算设备发送呈现内容项的第二表示的第二指令，内容项的第二表示不同于内容项的第一表示。
43.在一些示例中，内容项的特征与第一用户账户相关联或者被寻址到第一用户账户。
44.在一些示例中，内容项的第一表示包括内容项存在的指示和可用于使第一计算设备呈现内容项的控件。
45.在一些示例中，内容项的第二表示看起来好像对其他用户账户可见。
46.在一些示例中，内容项是第二用户账户的评论，该评论与第一用户账户发布的另一内容项相关联。
47.在一些示例中，呈现可用于批准或不批准评论的可选择控件的指令被发送到第一计算设备。
48.在一些示例中，接收到选择可选择控件来不批准评论的指示；并且基于接收到不批准评论的指示，发送停止呈现内容项的第一表示的指令，或者避免将内容项的第二表示发送到与第三用户账户相关联的第三计算设备。
49.在一些示例中，接收到选择可选择控件来批准评论的指示；并且基于接收到批准评论的指示，向第一计算设备发送呈现内容项的第二表示的指令，或者向与第三用户账户相关联的第三计算设备发送呈现内容项的第二表示的指令。
50.在一些示例中，内容项是从第二用户账户到第一用户账户的消息。
51.在一些示例中，呈现内容项的第一表示的第一指令是在辅助收件箱中呈现消息存在的指示的指令。
52.在一些示例中，接收到查看消息的请求；并且向第一计算设备发送呈现消息和控件的指令，该控件可用于解除限制从第二用户接收的内容的呈现或删除消息。
53.在一些示例中，避免向第二计算设备发送消息已经在第一计算设备处呈现的通知。
54.在一些示例中，接收到包括第一用户账户的标识符的一部分的输入。第一用户账户的标识符的该部分可以被确定为小于与第一用户账户的标识符的相似性阈值水平，并且可以基于第一用户账户的标识符的该部分是否小于相似性阈值水平来输出一个或更多个候选用户账户，在这种情况下，一个或更多个候选账户省略第一用户账户。
55.在一些示例中，可以从第二计算设备接收包括第一用户账户的标识符的一部分的输入。可以确定第一用户账户的标识符的该部分满足或超过与第一用户账户的标识符的相似性阈值水平，并且可以基于第一用户账户的标识符的该部分是否满足或超过相似性阈值水平来输出包括第一用户账户的一个或更多个候选用户账户。
56.在一些示例中，相似性阈值水平基于限制具有该特征的内容的呈现的请求。
57.除了上面讨论的社会改进之外，本文描述的技术还通过减少通过网络发送的内容量来改进一个或更多个计算设备的性能。例如，一旦用户不批准内容，该内容可以从用户的计算设备中删除，并且可以被限制散播到其他用户的计算设备。以这种方式，通过网络发送的数据量可以减少。另外，在一些示例中，所描述的技术通过向用户显示有限的一组信息来改进计算设备的用户界面。例如，向欺凌的受害者显示的信息可以通过允许受害者更快地访问选项来控制如何向受害者、欺凌者和第三方显示欺凌者输入的数据，从而提高使用电子设备的效率。此外，当欺凌者提交与受害者相关联的内容时，通过选择性地向受害者输出控件来提高向受害者呈现这些控件的速度。以这种方式，用户可以实时决定是否限制欺凌者进行的与受害者的账户相关联的活动，这比现有技术快得多(例如，“屏蔽”欺凌者)，现有技术可能需要受害者处理(navigate)一系列设置和/或菜单屏幕来控制欺凌者的行为，这些行为可能与欺凌者张贴的内容完全无关。
58.下面参考附图进一步描述这些和其他方面。附图仅仅是示例实现，不应被解释为限制权利要求的范围。例如，虽然示例是在移动设备的用户界面的上下文中说明的，但是这些技术可以使用任何计算设备来实现，并且用户界面可以适应特定计算设备的大小、形状和配置。此外，虽然许多示例是在欺凌的上下文中给出的，但是本文描述的技术也可以应用于但不限于攻击性内容、威胁性内容、性内容、辱骂性内容或对用户来说不良的任何其他内容。
59.在特定示例中，计算系统的一个或更多个对象(例如，内容或其他类型的对象)可以与一个或更多个隐私设置相关联。一个或更多个对象可以存储在任何合适的计算系统或应用(例如社交网络系统、客户端系统、第三方系统、社交网络应用、消息传递应用、照片共享应用或任何其他合适的计算系统或应用)上或以其他方式与之相关联。尽管本文讨论的示例是在在线社交网络的上下文中，但是这些隐私设置可以应用于任何其他合适的计算系统。关于对象或内容项的隐私设置(或“访问设置”)可以以任何合适的方式(例如，与对象相关联地、以授权服务器上的索引、以另一种合适的方式或其任何合适的组合)存储。对象的
隐私设置可以指定如何可以在在线社交网络内访问、存储或以其他方式使用(例如，查看、共享、修改、复制、执行、显现(surfaced)或识别)该对象(或与该对象相关联的特定信息)。当对象的隐私设置允许特定用户或其他实体访问该对象时，该对象可以被描述为相对于该用户或其他实体是“可见的”。作为示例而不是作为限制，在线社交网络的用户可以指定关于用户简档页面的隐私设置，该隐私设置识别可以访问在用户简档页面上的工作经历信息的一组用户，因而排除其他用户访问该信息。
60.在特定示例中，对象的隐私设置可以指定不应被允许访问与该对象相关联的某些信息的用户或其他实体的“阻止列表(blocked list)”和/或“限制列表”。在特定示例中，阻止列表可以包括第三方实体。阻止列表或限制列表可以指定对象对其不可见的一个或更多个用户或实体。作为示例而不是作为限制，用户可以指定不能访问与该用户相关联的相册的一组用户，从而排除这些用户访问相册(同时也可能允许不在所指定的用户组内的某些用户访问相册)。在特定示例中，隐私设置可以与特定社交图元素(social-graph element)相关联。社交图元素(例如节点或边)的隐私设置可以指定可以如何使用在线社交网络来访问社交图元素、与社交图元素相关联的信息、或与社交图元素相关联的对象。作为示例而不是作为限制，对应于特定照片的特定概念节点可以具有指定照片仅可以由在照片中标记的用户以及在照片中标记的用户的朋友访问的隐私设置。在特定示例中，隐私设置可以允许用户选择加入(opt in)或选择退出(opt out)使其内容、信息或动作被社交网络系统存储/记录或与其他系统(例如，第三方系统)共享。尽管本公开描述了以特定方式使用特定隐私设置，但是本公开设想了以任何合适的方式使用任何合适的隐私设置。
61.在特定示例中，隐私设置可以基于社交图的一个或更多个节点或边。可以针对社交图的一个或更多个边或边类型、或者针对社交图的一个或更多个节点或节点类型指定隐私设置。应用于连接两个节点的特定边的隐私设置可以控制对应于节点的两个实体之间的关系对于在线社交网络的其他用户是否可见。类似地，应用于特定节点的隐私设置可以控制对应于该节点的用户或概念对于在线社交网络的其他用户是否可见。作为示例而不是作为限制，第一用户可以向社交网络系统共享对象。该对象可以与通过边连接到第一用户的用户节点的概念节点相关联。第一用户可以指定应用于连接到对象的概念节点的特定边的隐私设置，或者可以指定应用于连接到概念节点的所有边的隐私设置。作为另一个示例而不是作为限制，第一用户可以共享特定对象类型的对象集合(例如，图像集合)。第一用户可以针对与第一用户相关联的该特定对象类型的所有对象将隐私设置指定为具有特定的隐私设置(例如，指定由第一用户张贴的所有图像仅对第一用户的朋友和/或在图像中标记的用户可见)。
62.在特定示例中，社交网络系统可以(例如，在网页、模块、一个或更多个对话框或任何其他合适的界面内)向第一用户呈现“隐私向导(privacy wizard)”，以帮助第一用户指定一个或更多个隐私设置。隐私向导可以显示指令、合适的隐私相关信息、当前隐私设置、用于接受来自第一用户的指定隐私设置的改变或确认的一个或更多个输入的一个或更多个输入字段、或其任何合适的组合。在特定示例中，社交网络系统可以向第一用户提供“仪表板(dashboard)”功能，该功能可以向第一用户显示第一用户的当前隐私设置。仪表板功能可以在任何适当的时间(例如，在来自第一用户的调用仪表板功能的输入之后，在特定事件或触发动作发生之后)显示给第一用户。仪表板功能可以允许第一用户在任何时间以任
何合适的方式修改第一用户的一个或更多个当前隐私设置(例如，将第一用户重定向到隐私向导)。
63.与对象相关联的隐私设置可以指定准许访问或拒绝访问的任何合适粒度，包括本文描述的“限制”功能。作为示例而不是作为限制，可以为特定用户(例如，只有我、我的室友和我的老板)、在特定分离度内的用户(例如，朋友，朋友的朋友)、用户群组(例如，游戏俱乐部、我的家人)、用户网络(例如，特定雇主的雇员、特定大学的学生或校友)、所有用户(“公开的”)、无用户(“私人的”)、第三方系统的用户、特定应用(例如，第三方应用、外部网站)、其他合适的实体、或其任何合适的组合来指定访问或拒绝访问。尽管本公开描述了准许访问或拒绝访问的特定粒度，但是本公开设想了准许访问或拒绝访问的任何合适粒度。
64.在特定示例中，一个或更多个服务器可以是用于实施隐私设置的授权/隐私服务器。响应于来自用户(或其他实体)的对存储在数据储存器中的特定对象的请求，社交网络系统可以向数据储存器发送对该对象的请求。请求可以识别与该请求相关联的用户，并且对象只有在授权服务器基于与该对象相关联的隐私设置确定该用户被授权访问该对象时才可以被发送给该用户(或者该用户的客户端系统)。如果请求用户未被授权访问该对象，则授权服务器可以阻止所请求的对象从数据储存器中被检索，或者可以阻止所请求的对象被发送给用户。在搜索-查询上下文中，只有当查询用户被授权访问对象时，例如，如果对象的隐私设置允许它显现给查询用户、被查询用户发现或以其他方式对查询用户可见，对象才可以被提供作为搜索结果。在特定示例中，对象可以表示通过用户的动态消息(newsfeed)对用户可见的内容。作为示例而不是作为限制，一个或更多个对象对于用户的“热门话题(trending)”页面可以是可见的。在特定示例中，对象可以对应于特定用户。对象可以是与特定用户相关联的内容，或者可以是特定用户的账户或存储在社交网络系统或其他计算系统上的信息。作为示例而不是作为限制，第一用户可以通过在线社交网络的“您可能认识的人(people you may know)”功能或者通过查看第一用户的朋友列表来查看在线社交网络的一个或更多个第二用户。作为示例而不是作为限制，第一用户可以指定他们不希望在他们的动态消息或朋友列表中看到与特定第二用户相关联的对象。如果对象的隐私设置不允许其被显现给用户、被用户发现或对用户可见，则该对象可以从搜索结果中排除。尽管本公开描述了以特定方式实施隐私设置，但是本公开设想了以任何合适的方式实施隐私设置。
65.在特定示例中，与用户相关联的相同类型的不同对象可以具有不同的隐私设置。与用户相关联的不同类型的对象可以具有不同类型的隐私设置。作为示例而不是作为限制，第一用户可以指定第一用户的状态更新是公开的，但是第一用户共享的任何图像仅对在线社交网络上的第一用户的朋友可见。作为另一个示例而不是作为限制，用户可以为不同类型的实体(例如个人用户、朋友的朋友、关注者、用户群组或公司实体)指定不同的隐私设置。作为另一示例而不是作为限制，第一用户可以指定可以观看由第一用户张贴的视频的一组用户，同时防止视频对第一用户的雇主可见。在特定示例中，可以为不同的用户组或用户人口统计提供不同的隐私设置。作为示例而不是作为限制，第一用户可以指定与第一用户上同一所大学的其他用户可以查看第一用户的照片，但是作为第一用户的家庭成员的其他用户不可以查看那些相同的照片。
66.在特定示例中，社交网络系统可以为特定对象类型的每个对象提供一个或更多个
默认隐私设置。被设置为默认的对象的隐私设置可以由与该对象相关联的用户来改变。作为示例而不是作为限制，由第一用户张贴的所有图像可以具有仅对第一用户的朋友可见的默认隐私设置，并且对于特定图像，第一用户可以将该图像的隐私设置改变为对朋友和朋友的朋友可见。
67.在特定示例中，隐私设置可以允许第一用户(例如，通过选择退出、通过不选择加入)指定社交网络系统是否可以为了任何目的接收、收集、记录或存储与用户相关联的特定对象或信息。在特定示例中，隐私设置可以允许第一用户指定特定应用或过程是否可以访问、存储或使用与用户相关联的特定对象或信息。隐私设置可以允许第一用户选择加入或选择退出使对象或信息被特定应用或过程访问、存储或使用。社交网络系统可以访问这样的信息，以便向第一用户提供特定的功能或服务，而社交网络系统不为了任何其他目的而访问该信息。在访问、存储或使用这样的对象或信息之前，社交网络系统可以在允许任何这样的动作之前提示用户提供隐私设置，该隐私设置指定哪些应用或过程(如果有的话)可以访问、存储或使用对象或信息。作为示例而不是作为限制，第一用户可以经由与在线社交网络相关的应用(例如消息传递app)向第二用户传输消息，并且可以指定这样的消息不应被社交网络系统存储的隐私设置。
68.在特定示例中，用户可以指定与第一用户相关联的特定类型的对象或信息是否可以由社交网络系统访问、存储或使用。作为示例而不是作为限制，第一用户可以指定由第一用户通过社交网络系统发送的图像不可以由社交网络系统存储。作为另一个示例而不是作为限制，第一用户可以指定从第一用户发送给特定的第二用户的消息不可以由社交网络系统存储。作为又一个示例而不是作为限制，第一用户可以指定经由特定应用发送的所有对象可以由社交网络系统保存。
69.在特定示例中，隐私设置可以允许第一用户指定是否可以从特定客户端系统或第三方系统访问与第一用户相关联的特定对象或信息。隐私设置可以允许第一用户选择加入或选择退出从特定设备(例如，用户的智能手机上的电话簿)、从特定应用(例如，消息传递app)或从特定系统(例如，电子邮件服务器)访问对象或信息。社交网络系统可以针对每个设备、系统或应用提供默认隐私设置，和/或可以提示第一用户为每个上下文指定特定的隐私设置。作为示例而不是作为限制，第一用户可以利用社交网络系统的位置服务特征来提供对在用户附近的餐馆或其他地方的推荐。第一用户的默认隐私设置可以指定社交网络系统可以使用从第一用户的客户端设备提供的位置信息来提供基于位置的服务，但是社交网络系统不可以存储第一用户的位置信息或者将它提供到任何第三方系统。第一用户然后可以更新隐私设置，以允许位置信息由第三方图像共享应用使用，以便对照片进行地理标记。
70.关于情绪、情感或感情信息的隐私设置
71.在特定示例中，隐私设置可以允许用户指定是否可以确定与用户相关联的当前、过去或预想的情绪、情感或感情信息，以及特定应用或过程是否可以访问、存储或使用这样的信息。隐私设置可以允许用户选择加入或选择退出使情绪、情感或感情信息被特定应用或过程访问、存储或使用。社交网络系统可以基于例如用户提供的输入和与特定对象的交互来预测或确定与用户相关联的情绪、情感或感情，所述与特定对象的交互例如是页面或内容被用户查看、帖子或其他内容被用户上传以及与在线社交网络的其他内容的交互。在特定示例中，社交网络系统可以使用用户先前的活动和计算的情绪、情感或感情来确定当
前的情绪、情感或感情。希望启用该功能的用户可以在其隐私设置中指示他们选择加入社交网络系统接收确定情绪、情感或感情所需的输入。作为示例而不是作为限制，社交网络系统可以确定默认隐私设置是不接收用于确定情绪、情感或感情所需的任何信息，直到从用户得到社交网络系统可以这样做的明确指示。相反，如果用户没有选择加入社交网络系统接收这些输入(或者用户肯定地选择退出社交网络系统接收这些输入)，则可以阻止社交网络系统接收、收集、记录或存储这些输入或与这些输入相关联的任何信息。在特定示例中，社交网络系统可以使用预测的情绪、情感或感情来向用户提供推荐或广告。在特定示例中，如果用户希望将该功能用于特定目的或应用，则用户可以指定附加的隐私设置，以选择加入使情绪、情感或感情信息用于该特定目的或应用。作为示例而不是作为限制，社交网络系统可以使用用户的情绪、情感或感情来向用户提供动态消息项目、页面、朋友或广告。用户可以在其隐私设置中指定社交网络系统可以确定用户的情绪、情感或感情。然后，可以请用户提供附加的隐私设置，以指示用户的情绪、情感或感情可以被用于的目的。用户可以指示社交网络系统可以使用他或她的情绪、情感或感情来提供动态消息内容和推荐页面，但是不用于推荐朋友或广告。社交网络系统然后可以仅基于用户情绪、情感或感情提供动态消息内容或页面，并且不可以将该信息用于任何其他目的，即使隐私设置没有明确禁止。
72.关于短暂共享的隐私设置
73.在特定示例中，隐私设置可以允许用户参与在线社交网络上对象的短暂共享。短暂共享是指在有限的时间段内共享对象(例如帖子、照片)或信息。可以通过时间或日期来指定对对象或信息的访问或拒绝访问。作为示例而不是作为限制，用户可以指定由用户上传的特定图像在接下来的一周内对用户的朋友可见，在这段时间之后，该图像对于其他用户可能不再是可访问的。作为另一个示例而不是作为限制，公司可以在正式发布之前张贴与产品发行相关的内容，并指定该内容直到产品发布之后才可以对其他用户可见。
74.在特定示例中，对于具有指定它们是短暂的隐私设置的特定对象或信息，社交网络系统可以在访问、存储或使用对象或信息方面受到限制。社交网络系统可以临时访问、存储或使用这些特定对象或信息，以便便于与这些对象或信息相关联的用户的特定动作，并且可以随后删除这些对象或信息，如由相应的隐私设置所指定的。作为示例而不是作为限制，第一用户可以向第二用户传输消息，并且社交网络系统可以将该消息临时存储在数据储存器中，直到第二用户已经查看或下载了该消息为止，此时社交网络系统可以从数据储存器中删除该消息。作为另一个示例而不是作为限制，继续前面的示例，消息可以被存储指定的时间段(例如2周)，在该时间段之后，社交网络系统可以从数据储存器中删除该消息。
75.关于用户认证和体验个性化信息的隐私设置
76.在特定示例中，社交网络系统可以具有可将用户的个人或生物识别信息(biometric information)用作输入以用于用户认证或体验个性化目的的功能。用户可以选择利用这些功能来增强他们在在线社交网络上的体验。作为示例而不是作为限制，用户可以向社交网络系统提供个人信息或生物识别信息。用户的隐私设置可以指定这样的信息仅可以用于特定的过程(例如认证)，并且进一步指定这样的信息不可以与任何第三方系统共享或者不可以用于与社交网络系统相关联的其他过程或应用。作为另一个示例而不是作为限制，社交网络系统可以为用户提供向在线社交网络提供声纹记录的功能。作为示例而不是作为限制，如果用户希望利用在线社交网络的这一功能，则用户可以提供他或她自己
声音的声音记录，以提供在线社交网络上的状态更新。声音输入的记录可以与用户的声纹进行比较，以确定用户说了什么词语。用户的隐私设置可以指定这种声音记录仅可以用于声音输入目的(例如，认证用户、发送声音消息、改进声音识别以便使用在线社交网络的声音操作特征)，并且还指定这种声音记录不可以与任何第三方系统共享，或者不可以被与社交网络系统相关联的其他过程或应用使用。作为另一个示例而不是作为限制，社交网络系统可以为用户提供向在线社交网络提供参考图像(例如，面部轮廓、视网膜扫描)的功能。在线社交网络可以将参考图像与稍后接收的图像输入进行比较(例如，用于认证用户，在照片中标记用户)。用户的隐私设置可以指定这种声音记录仅可以用于有限的目的(例如，认证、在照片中标记用户)，并且还指定这种声音记录不可以与任何第三方系统共享，或者不可以被与社交网络系统相关联的其他过程或应用使用。
77.用户发起的对隐私设置的改变
78.在特定示例中，对隐私设置的改变可能会追溯生效，这会影响在改变之前共享的对象和内容的可见性。作为示例而不是作为限制，第一用户可以共享第一图像并指定第一图像对所有其他用户公开。稍后，第一用户可以指定由第一用户共享的任何图像应该仅对第一用户组可见。社交网络系统可以确定该隐私设置也适用于第一图像，并且使第一图像仅对第一用户组可见。在特定示例中，隐私设置的改变可以只对将来生效。继续上面的示例，如果第一用户改变隐私设置，然后共享第二图像，则第二图像可以仅对第一用户组可见，但是第一图像可以保持对所有用户可见。在特定示例中，响应于改变隐私设置的用户动作，社交网络系统可以进一步提示用户指示用户是否想要追溯性地应用对隐私设置的改变。在特定示例中，用户对隐私设置的改变可以是特定于一个对象的一次性改变。在特定示例中，用户对隐私的改变可以是针对与用户相关联的所有对象的全局改变。
79.在特定示例中，社交网络系统可以响应于与第一用户相关联的触发动作而确定第一用户可能想要改变一个或更多个隐私设置。触发动作可以是在线社交网络上的任何合适的动作。作为示例而不是作为限制，触发动作可以是在线社交网络的第一用户和第二用户之间的关系的改变(例如，将用户“删除好友(un-friending)”、改变用户之间的关系状态)。在特定示例中，在确定触发动作已经发生后，社交网络系统可以提示第一用户改变关于与第一用户相关联的对象的可见性的隐私设置。该提示可以将第一用户重定向到用于编辑关于与触发动作相关联的一个或更多个实体的隐私设置的工作流过程。与第一用户相关联的隐私设置可以仅响应于来自第一用户的明确输入而改变，并且不可以在没有第一用户的批准的情况下被改变。作为示例而不是作为限制，工作流过程可以包括向第一用户提供关于第二用户或一组用户的当前隐私设置(例如，从特定对象中去除第一用户或第二用户的标签，改变特定对象相对于第二用户或一组用户的可见性)，以及从第一用户接收指示以基于本文描述的任何方法改变隐私设置，或者保持现有的隐私设置。
80.在特定示例中，用户可能需要在允许用户在在线社交网络上执行特定动作之前提供隐私设置的验证，或者在改变特定隐私设置之前提供验证。当执行特定动作或改变特定隐私设置时，可以向用户呈现提示，以提醒用户他或她的当前隐私设置，并请用户验证关于特定动作的隐私设置。此外，在进行特定动作之前，用户可能需要提供确认、双重确认、认证或其他合适类型的验证，并且在提供这种验证之前，该动作可能无法完成。作为示例而不是作为限制，用户的默认隐私设置可以指示一个人的关系状态对所有用户可见(即，“公开
的”)。然而，如果用户改变他或她的关系状态，社交网络系统可以确定这样的动作可能是敏感的，并且可以提示用户在继续进行之前确认他或她的关系状态应该保持公开。作为另一个示例而不是作为限制，用户的隐私设置可以指定用户的帖子仅对用户的朋友可见。然而，如果用户将他或她的帖子的隐私设置改变为公开的，则社交网络系统可以向用户提示帖子仅对朋友可见的用户的当前隐私设置的提醒(reminder)，以及该改变将使用户的所有过去的帖子对公众可见的警告。然后，在继续改变隐私设置之前，用户可能被要求提供第二次验证、输入认证凭证或提供其他类型的验证。在特定示例中，用户可能需要定期提供隐私设置的验证。根据经过的时间或用户动作的数量，可以周期性地向用户发送提示或提醒。作为示例而不是作为限制，社交网络系统可以每六个月或在每十次照片发布后向用户发送确认他或她的隐私设置的提醒。在特定示例中，隐私设置还可以允许用户基于每个请求来控制对对象或信息的访问。作为示例而不是作为限制，每当第三方系统试图访问与用户相关联的信息时，社交网络系统可以通知用户，并在继续之前要求用户提供应该允许访问的验证。
81.示例系统架构
82.图1是示例系统100的示意图，该示例系统100可用于实现本文描述的技术，以允许用户控制其他人可以通过系统100向他们或关于他们散播负面的、有害的、虚假的、刻薄的或其他不良内容的程度。在一些示例中，本文描述的技术可以允许受害者将欺凌者指定为“受限制的”，以减轻欺凌者关于受害者散播不良的内容的能力。如图1所示，系统100可以允许用户102(1)、102(2)、
…
102(n)(统称为“用户102”)使用计算设备104(1)、104(2)、
…
104(m)(统称为“计算设备104”)经由网络108与社交网络系统106交互。本例中的变量n和m是大于1的非零整数。
83.每个计算设备104包括一个或更多个处理器和存储计算机可执行指令的存储器，以实现本文讨论的可归于各种计算设备的功能。在一些示例中，计算设备104可以包括台式计算机、膝上型计算机、平板计算机、移动设备(例如，智能手机或其他蜂窝或移动电话、移动游戏设备、便携式媒体设备等)或其他合适的计算设备。计算设备104可以执行一个或更多个客户端应用，例如web浏览器(例如，微软视窗互联网浏览器(microsoft windows internet explorer)、mozilla firefox、苹果safari、谷歌chrome、opera等)或者本机(native)或专用客户端应用(例如，社交媒体应用、消息传递应用、电子邮件应用、游戏等)，以通过网络108访问和查看内容。
84.网络108可以代表计算设备104可以通过其访问社交网络系统106和/或彼此通信的一个网络或网络集合(例如互联网、公司内部网、虚拟专用网(vpn)、局域网(lan)、无线局域网(wlan)、蜂窝网络、广域网(wan)、城域网(man)或两个或更多个这样的网络的组合)。
85.社交网络系统106可以包括一个或更多个服务器或其他计算设备，它们中的任何一个或全部可以包括一个或更多个处理器和存储计算机可执行指令的存储器，以实现本文讨论的可归于社交网络系统或数字平台的功能。社交网络系统106可以使其用户102(例如，个人或组织)能够经由计算设备104与社交网络系统106以及彼此进行交互。社交网络系统106可以利用来自用户的输入，在社交网络系统106中创建并存储与用户相关联的用户账户。用户账户可以包括用户的人口统计信息、通信渠道(communication-channel)信息以及关于个人兴趣的信息。社交网络系统106还可以利用来自用户的输入来创建和存储用户与社交网络系统的其他用户的关系的记录，以及提供服务(例如，帖子、评论、照片共享、消息
传递、标记、提及其他用户或实体、游戏等)来促进用户102之间的社交互动。
86.社交网络系统106可以被配置成帮助促进用户102的安全和保障。例如，社交网络系统106可以赋予用户权力来控制欺凌者可以通过社交网络系统106向他们或关于他们散播负面的、有害的、虚假的、刻薄的或其他不良内容的程度。
87.图1示出了一个示例，其中，在操作110，第二用户102(2)向第一用户102(1)或关于第一用户102(1)散播刻薄的或其他不良内容(例如，帖子、消息、评论、标签、提及)。例如，不良内容可以是第二用户102(2)对张贴在第一用户102(1)的动态消息或报道(story)上的图片或其他内容项的刻薄评论。作为另一个例子，不良内容可以是从第二用户102(2)发送给第一用户102(1)的刻薄消息。
88.当意识到不良内容时(例如，通过查看他或她的动态消息或报道上的评论，或者通过接收消息)，第一用户102(1)可以在操作112向社交网络系统106发送请求，以限制从第二用户102(2)的账户接收的内容的呈现，如果该内容与第一用户102(1)相关联的话(例如，如果该内容具有针对第一用户的账户或者是关于第一用户的特征)。作为响应，社交网络系统106可以将第二用户102(2)的账户指定为相对于第一用户102(1)的账户受限。
89.随后，当社交网络系统106从第二用户102(2)的账户接收与第一用户102(1)相关联的内容项时，社交网络系统106可以在操作114将该内容项保持在待定状态，以允许第一用户102(1)在发布或以其他方式使该内容项对社交网络服务106的其他用户(例如，联系人、关连(connections)、朋友、关注者等)可见之前审查该内容项。
90.当内容项处于待定状态时，与第一用户102(1)的账户相关联的第一计算设备104(1)可以接收呈现内容项的第一表示的指令。例如，将由与第一用户102(1)的账户相关联的第一计算设备104(1)呈现的内容项的第一表示可以包括内容项存在的指示(但不是内容项的实质)和可用于使第二计算设备呈现内容项的控件。以这种方式，第一用户102(1)可以选择是否查看来自第二用户102(2)的内容项，从而使他们免受欺凌者的进一步虐待或折磨。如果第一用户102(1)选择控件来导致内容项的呈现，则社交网络系统106可以向第一客户端设备104(1)发送呈现可用于批准或不批准(例如，删除)内容项的可选择控件的指令。同时，与第二用户102(2)(在该示例中是欺凌者)的账户相关联的第二计算设备104(2)可以接收呈现内容项的第二表示的指令，该第二表示不同于内容项的第一表示。内容项的第二表示可以看起来好像该内容项是实时的(例如，已经被发布或对第一用户和/或其他用户可见)，尽管事实是内容项处于待定状态并且尚未被受害者批准发布给其他用户。在一些示例中，社交网络服务106可以避免向与第三用户账户相关联的第三计算设备104(例如，第三方的设备)发送内容项的第二表示。
91.以这种方式，第一用户102(1)(在这个例子中是受害者)能够限制第二用户102(2)(在这个例子中是欺凌者)向第一用户102(1)或关于第一用户102(1)散播不良的内容的能力。本文描述的技术可以允许受害者监控由欺凌者或其他受限制方发送、张贴或共享的内容，并且可以允许受害者决定是否批准该内容。在一些示例中，本文描述的技术可以在不通知欺凌者他或她已经被限制的情况下实现(例如，受害者已经限制欺凌者的事实通过欺凌者的用户账户是不可见的)，从而避免刺激欺凌者。
92.示例用户界面
93.图2a-图7c是示出可用于实现本文描述的技术的示例用户界面的示意图，该技术
用于使第一用户能够限制从第二用户接收的内容的呈现。界面可以由社交网络系统(例如，社交网络系统106)的计算设备生成，并被传输到一个或更多个用户计算设备(例如，计算设备104)用于呈现，和/或界面可以由一个或更多个用户计算设备至少部分地基于从社交网络系统接收的指令来生成。如上面所讨论的，本节中描述的界面可以但不必须在系统100的环境中实现。
94.图2a-图2c示出了一个示例，其中，第二用户(在该示例中为“用户0”)响应于在第一用户(在该示例中为“用户1”)的订阅源(feed)中张贴的照片的帖子，张贴评论形式的不良内容。图2a所示的第一界面200a对应于第一用户的订阅源或报道中的帖子，因为它将出现在与第一用户的账户相关联的计算设备上。在这个例子中，第二用户(用户0)张贴了刻薄的评论202(“@用户1你真是个失败者”)来回应用户1的帖子。评论202与用户1相关联，因为它直接引用用户1，并且是对用户1发的帖子的回应。在这个例子中，用户1已经选择了评论202，这导致在用户1的客户端设备上显示图2b的第二界面200b。如本文所使用的，除非另有说明，否则术语“选择(select)”或“选择(selection)”意味着触摸、力触摸(force touch)、多重触摸、任何方向的滑动、声音输入、鼠标输入、触笔输入或设计成与用户界面控件交互的任何其他输入。第二界面200b包括可选择控件204，其可用于向社交网络系统发送限制用户0的请求。对控件204的选择将来自用户1的计算设备的请求发送到社交网络系统，以限制从用户0的用户账户接收的具有特征(例如，针对、关于用户1的账户或以其他方式与用户1的账户相关联)的内容的呈现。在一些示例中，图2c所示的第三界面200c包括通知206，该通知206可以显示给用户1，描述限制用户0的功能或结果。在一些示例中，通知206可以在用户第一次查看或选择控件204时、每次用户查看或选择控件204时、在用户请求时(例如，选择“帮助”或“了解更多”控件，这在该示例中未示出)呈现，或者通知206可以完全省略。在图示的示例中，通知206描述了限制用户0将导致“他们对您的帖子发表的新评论只有在您批准它们的情况下才可见”、“他们不会看到您何时在线或您何时阅读了他们的消息”以及“如果您限制他们，我们不会让他们知道”。然而，在其他示例中，通知206可以包含附加或替代的信息。
95.图3a和图3b示出了一个示例，其中，第二用户(在该示例中为“用户0”)向第一用户(在该示例中为“用户1”)发送消息形式的不良内容。在这种情况下，第一界面300a对应于显示在与用户1的账户相关联的客户端设备上的用户界面。该示例中的界面300a是消息线程，其包括从用户0接收的一系列不良消息302。响应于消息302的接收，用户1发送了一系列回复消息304，要求用户0“请撤下它(please take it down)”，对于此，用户0发送了一系列不友好的回复消息306。继续该示例，用户1然后选择界面控件308(在该示例中为“信息”图标)，这导致呈现包括与用户0相关的细节和设置的第二界面300b。其中，第二界面300b包括可选择控件310，该可选择控件310可用于向社交网络系统发送限制用户0的请求。对可选择控件310的选择将来自用户1的计算设备的请求发送到社交网络系统，以限制从用户0的用户账户接收的具有特征(例如，针对、关于用户1的账户或以其他方式与用户1的账户相关联)的内容的呈现。
96.图4a-图4f示出了图2a-图2c的示例的延续，并且示出了第二用户(在该示例中为“用户0”)已经被限制并且提交与第一用户(在该示例中为“用户1”)相关联的内容项的场景。该示例中的界面400a基本上与图2a中的界面200a相同，并且描绘了当在与第二用户(在
该示例中为用户0，欺凌者)的账户相关联的计算设备上查看时将会出现的界面。如图所示，用户0已经提交了如评论的表示402所示的刻薄评论，该刻薄评论出现在界面400a上，就好像它已经被发布一样(例如，它是实时的并且对第二用户和/或其他用户可见)。响应于用户0提交评论402，社交网络系统向与第一用户(用户1)的账户相关联的计算设备发送指令，以呈现包括通知404的界面400b，通知用户1用户0已经评论了用户1的帖子。响应于用户1选择通知404，显示界面400c，该界面包括用户1的帖子以及响应于该帖子而张贴的任何评论。在这个例子中，来自用户0的评论的表示作为表示406出现。如图所示，呈现在用户1的计算设备上的评论的表示406不同于在用户0的计算设备上的评论的表示402。在一些示例中，呈现在用户1的计算设备上的表示406可以指示来自受限账户的评论的存在，同时隐藏、模糊评论的内容或以其他方式避免显示评论的内容。例如，如图所示，呈现在用户1的计算设备上的表示406包括来自受限账户(用户0的账户)的评论存在的指示，并且包括可选择控件408(在该示例中为“点击阅读”)，该可选择控件408可用于请求呈现评论的内容。然而，设想了其他技术来用于显示评论的存在而不显示评论的内容，包括在用户1的计算设备上呈现表示406，其中评论的部分被灰化(greyed out)、模糊或以其他方式隐藏。以这种方式，呈现在用户1的计算设备上的表示406用作“敏感屏幕”，允许用户1选择是否以及何时查看评论的内容。因此，界面400c允许用户1看到受限用户(用户0)何时评论，而不会受到来自受限用户的潜在不良内容的影响。
97.图4d描绘了响应于用户1对可选择控件408的选择而呈现的界面400d。如图所示，界面400d显示评论的内容(在该示例中为“你是失败者”)以及可用于批准或不批准(“删除”)评论的批准控件410。图4e的界面400e对应于如果用户1使用批准控件410选择批准评论时显示的界面，而图4f的界面400f对应于可以响应于用户使用批准控件410不批准/删除评论而显示的界面。
98.图5a-图5b示出了图3a和图3b的示例的延续，并且示出了第二用户(在该示例中为“用户0”)已经被限制并且向第一用户(在该示例中为“用户1”)发送消息的场景。该示例中的界面500a基本上与图3a中的界面300a相同，并且描绘了当在与第二用户(在该示例中为用户0，欺凌者)的账户相关联的计算设备上查看时将会出现的界面。如图所示，用户0发送了如表示502所示的一系列刻薄的消息，其出现在界面500a上，就好像它已经被发布了一样(例如，被接收并且对第二用户可见)。图5b示出了包括主收件箱504的界面500b，可以使主收件箱504呈现在与用户1的账户相关联的计算设备上。如图所示，来自受限用户(用户0)的一系列消息没有出现在主收件箱504中。相反，来自受限用户(用户0)的消息被添加到可通过选择消息请求控件506来访问的消息请求队列。在一些示例中，来自受限用户(用户0)的消息可以包括对用户1的帖子的进一步评论。附加地或替代地，来自受限用户(用户0)的消息可以包括经由社交网络系统直接发送到用户1的账户的消息。选择消息请求控件506导致呈现图5c所示的界面500c。界面500c包括消息请求队列，该队列包括从受限用户接收的消息，例如从用户0接收的消息508。在本示例中，来自受限用户的消息被指定为“受限账户”，但不显示消息的内容。如果用户1希望阅读消息508，用户1可以通过选择消息508来这样做，这导致呈现图5d的界面500d。界面500d包括通知510，通知510向用户解释：消息来自受限用户(用户0)，并且受限用户“无法看到您何时在线或者您何时阅读了他们的消息”，并且“对他们解除限制会把此聊天移回您的收件箱。”另外，界面500d包括可用于请求解除限制用户
的解除限制控件512、可用于删除消息的删除控件514以及可用于阻止来自用户0的未来消息的阻止控件516。图5e的界面500e对应于如果用户1使用解除限制控件512选择对用户0解除限制时显示的界面，而图5f的界面500f对应于可以响应于用户使用删除控件514删除消息而显示的界面。此外，在一些示例中，当用户的账户被限制时，用户发表的评论将保持在待定状态，直到由限制用户(在该示例中为用户1)手动地批准或不批准。
99.图6a和图6b示出了示例界面600a和600b，示出了受限用户(在该示例中为用户0)试图标记或提及限制了他们的用户(在该示例中为francesco)的场景。典型地，当用户开始输入一个或更多个字符以在搜索字段中搜索另一个用户账户(例如，用户名、电子邮件、句柄(handle)等)时，社交网络系统将输出候选用户账户。候选用户账户输出可以基于候选用户账户与所输入的字符的匹配程度、候选用户账户被用户或其他用户标记/提及的频率和/或其他标准。然而，如图6a和图6b所示，当受限用户输入字符以搜索已经限制了该受限用户的另一用户时，社交网络系统将应用阻力以使受限用户更难标记或提及限制了他们的用户。这种阻力可以采取在输入的文本和限制用户(即，限制了试图标记或提及他们的用户的用户)的用户账户之间应用更高的相似性阈值水平(例如，90％相似、95％相似、100％相似或匹配)和/或在候选结果中降低限制用户的用户账户的权重的形式。例如，界面600a示出了一个示例，其中，用户0正在输入文本602(“@fra”)以试图标记或提及先前已经限制了用户0的用户francesco。界面600a输出一组候选用户账户604。然而，在该示例中，由于输入文本串“@fra”与限制用户账户(“@francescofogu”)不够相似(例如，小于相似性阈值)，因此限制用户(francesco)从候选用户账户组604中被省略。
100.图6b示出了示例界面600b，其中，用户0正在输入文本606(“@francescofogu”)以试图标记或提及先前已经限制了用户0的用户francesco。该示例中的界面600b输出一组候选用户账户608。在该示例中，由于输入文本串“@fracescofogu”与限制用户账户(“@francescofogu”)足够相似(例如，满足或超过相似性阈值)，因此限制用户(francesco)被包括在候选用户账户组608中。然而，在该示例中，即使输入的搜索串606与用户账户完全匹配，系统也会降低francesco的账户的权重，因为他是限制用户，使得francesco的用户账户在候选用户账户组608中最后出现。因此，以这种方式，社交网络系统应用阻力以使受限用户更难标记或提及已经限制了他们的用户(限制用户)。
101.图7a-图7c示出了可以呈现给用户以允许他们设置和/或管理受限账户的附加界面700a、700b和700c。图7a示出了可以呈现给用户的示例界面700a，该界面包括介绍社交网络系统的限制特征的功能的通知702。界面700a可以响应于在用户的计算设备上运行的应用的更新、响应于阻止用户的请求、响应于在评论或消息中对潜在的刻薄或有害内容的检测、响应于用户访问社交网络应用的设置等来呈现。选择可选择控件704导致呈现图7b所示的界面700b，该界面包括允许用户在账户列表706和受限账户列表708之间进行切换的拨动开关(toggle switch)。在图7b中，开关被拨动以显示账户列表706，该列表可以以任何顺序排序。在一些示例中，账户列表706可以按字母顺序、基于用户和账户之间的关连的长度、基于账户被限制的次数、账户的评论被用户或其他用户标记为包含不良内容的次数、行为标志(例如，历史帖子或最近帖子的主题、评论、标签等)、用户被其他用户报告的次数和/或任何其他标准来排序。界面700b还包括与账户列表706中的每个账户对应的可选择限制控件710，其可用于请求将相应的用户账户指定为关于与限制用户相关联的内容是受限制的。
102.一旦基于对可选择限制控件710的选择，用户账户被指定为受限制的，该用户账户就被移动到受限账户列表708，该列表显示在图7c的界面700c上。受限账户列表708包括与受限账户列表708中的每个账户对应的可选择解除限制控件712，其可用于请求将相应的用户账户指定为关于与受限用户相关联的内容是不受限制的(例如，从受限列表中移除用户账户)。在一些示例中，当用户的账户被限制时，该用户做出的评论将保持在待定状态(例如，在受限用户被解除限制之后将保持隐藏)，直到由限制用户手动地批准或不批准。此外，在一些示例中，当用户账户被解除限制时，具有该用户账户的消息线程将从待定(消息请求)收件箱(在图5c中的界面500c中示出)被移动到主收件箱(例如，在图5b中示出的界面504)。
103.示例计算架构
104.图8示出了说明可用于实现本文描述的示例技术的计算设备的示例系统800的框图。例如，图8示出了示例计算设备，包括社交网络系统服务器802、第一计算设备804、第二计算设备806和一个或更多个附加计算设备808，它们通过网络(例如图1中的网络108)进行交互。作为示例而非限制，社交网络系统服务器802可以代表用于实现社交网络系统106的服务器，第一计算设备804可以代表与第一用户102(1)(图1的示例中的受害者)相关联的第一计算设备104(1)，第二计算设备806可以代表与第二用户102(2)(图1的示例中的欺凌者)相关联的第二计算设备104(2)，以及一个或更多个附加计算设备808可以代表与第三用户102(n)(图1的示例中的第三方)相关联的计算设备104(m)。
105.社交网络系统服务器802可以包括一个或更多个单独的服务器或其他计算设备，它们可以物理地位于单个中央位置，或者可以分布在多个不同的位置。社交网络系统服务器802可以由管理全部或部分通信网络的实体(例如，公用事业公司、政府机构、分销商、零售商、制造商等)私有托管，或者可以托管在云环境中，或者是私有托管和云托管服务的组合。
106.本文描述的每个计算设备可以包括一个或更多个处理器和/或存储器。具体而言，在所示示例中，社交网络系统服务器802包括一个或更多个处理器810和存储器812，第一计算设备804包括一个或更多个处理器814和存储器816，第二计算设备806包括一个或更多个处理器818和存储器820，以及附加计算设备808包括一个或更多个处理器822和存储器824。作为示例而非限制，处理器可以包括一个或更多个中央处理单元(cpu)、图形处理单元(gpu)或处理电子数据以将该电子数据转换成可以存储在寄存器和/或存储器中的其他电子数据的任何其他设备或设备的一部分。在一些示例中，集成电路(例如，asic等)、门阵列(例如，fpga等)和其他硬件设备也可以被视为处理器，只要它们被配置为实现编码的指令。
107.存储器可以包括一个或更多个非暂时性计算机可读介质，并且可以存储操作系统和一个或更多个软件应用、指令、程序和/或数据，以实现本文描述的方法和归于各种系统的功能。在各种实现中，存储器可以使用任何合适的存储器技术来实现，例如静态随机存取存储器(sram)、同步动态ram(sdram)、非易失性/闪存类型的存储器或者能够存储信息的任何其他类型的存储器。本文描述的架构、系统和单独的元件可以包括许多其他逻辑的、编程的和物理的部件，附图中示出的那些部件仅仅是与本文的讨论相关的示例。
108.如图8所示，社交网络系统服务器802包括社交网络应用826，第一计算设备804包括社交网络客户端应用828，第二计算设备806包括社交网络客户端应用830，以及附加计算
设备808包括社交网络客户端应用832，其使得能够经由社交网络系统服务器802在计算设备之间进行内容交互。例如，内容(例如，文本、图像、音频、视频等)可以在与社交网络系统提供的在线社交网络的社交网络账户相关联的用户之间共享，并且可以包括根据受限用户的账户共享内容。在一些示例中，社交网络客户端应用使得界面能够访问内容、查看内容以及限制和/或解除限制用户，例如参考图2a-图7c描述的那些。在特定示例中，社交网络系统服务器802发送指令以呈现、传输和接收内容，如参考图2a-图7c所讨论的。
109.图8将社交网络系统服务器802进一步示出为包括动态消息部件834、信使部件(messenger component)836和照片共享部件838，以使得诸如新闻、消息和/或照片的内容能够在计算设备之间共享。可以使用社交网络系统服务器802中包括的社交图840来识别表示社交网络系统的用户之间的关系的社交图元素，从而在计算设备之间进行内容共享。在一些示例中，社交图元素，例如节点或边(未示出)，可以指定如何可以使用在线社交网络来访问社交图元素、与社交图元素相关联的信息或与社交图元素相关联的对象。例如，社交图840还可以利用来自用户的输入来创建并存储该用户与社交网络系统的其他用户的关系的记录，以促进用户之间的社交互动。在一些示例中，社交图840可以指示用户账户之间的关系，包括朋友、关注者、被阻止的用户、受限用户等。
110.如图8所示，社交网络系统服务器802还包括限制部件842，该限制部件包括针对每个用户的受限用户的映射。以这种方式，社交网络系统服务器802可以通过至少部分地基于受限用户的映射为每个计算设备的社交网络客户端应用提供特定内容来减轻欺凌。这些和其他技术在此被讨论，并且在下面结合图9被进一步讨论。
111.如图8所示，社交网络系统服务器802包括通信连接844，第一计算设备804包括通信连接846，第二计算设备806包括通信连接848，以及附加计算设备808包括实现社交网络系统服务器与在第一计算设备804、第二计算设备806和附加计算设备808中的一个或更多个之间的通信的通信连接850。
112.通信连接844、846、848和/或850可以包括物理的和/或逻辑的接口，用于将社交网络系统服务器802、第一计算设备804、第二计算设备806和/或附加计算设备808连接到另一计算设备或网络(例如网络108)。例如，通信连接844、846、848和/或850可以实现基于wi-fi的通信(例如经由ieee 802.11标准定义的频率、诸如的短程无线频率)、蜂窝通信(例如，2g、2g、4g、4g lte、5g等)或使相应的计算设备能够与其他计算设备对接的任何合适的有线或无线通信协议。
113.虽然图8被提供为可用于实现本文所述技术的示例系统800，但是所描述和要求保护的技术不限于由系统800执行，系统800也不限于执行本文所述的技术。
114.示例方法
115.图9示出了说明可用于实现本文描述的示例技术的示例过程900的流程图。在一些实例中，过程900的一些或全部可以由系统100或800中的一个或更多个部件来执行。作为示例而非限制，过程900中提到的第一计算设备可以代表第一计算设备104(1)或第一计算设备804(在图1和图8的示例中与受害者相关联)，过程900中提到的第二计算设备可以代表第二计算设备104(2)或第二计算设备806(在图1和图8的示例中与欺凌者相关联)，过程900中提到的社交网络系统可以代表社交网络系统106或社交网络系统服务器802。然而，过程900不限于由系统100或800执行。
116.在操作902，过程900可以包括从与第一用户账户相关联的第一计算设备(例如，计算设备804)接收限制从第二用户账户接收的并具有特征的内容的呈现的限制请求。该特征可以包括内容项是关于第一用户的账户的、寻址到第一用户的账户或者以其他方式与第一用户的账户相关联。以这种方式，第一用户能够控制或限制第二用户欺凌第一用户的能力。在一些实例中，可以响应于第二用户先前已经张贴了与第一用户相关联的不良内容(例如，评论、消息等)，而接收限制请求。图2a中的评论202和图3a中的一系列不良消息302是不良评论的示例(第一用户可以响应于此而发送限制请求)。在一些示例中，社交网络系统的部件(例如，社交网络系统服务器802的限制部件824)可以处理限制请求并更新第二计算设备806的用户的社交图，以反映在第一计算设备804处做出的限制第二计算设备806的用户的选择。
117.在操作904，过程900可以包括从与第二用户账户相关联的第二计算设备接收内容项。
118.在操作906，社交网络系统(例如，社交网络系统服务器802)可以确定从第二计算设备806接收的内容项是否具有特征(例如，关于第一用户、针对第一用户的账户、引用第一用户等)。如果不是，则在操作908，社交网络系统服务器802可以发布内容项(例如，使内容项对第一用户和/或一个或更多个第三方可见)。在一些示例中，在操作908发布内容项可以包括发送内容项、呈现内容项的指令和/或使与第一用户账户和/或一个或更多个第三方用户账户相关联的计算设备可以访问内容项的指令。
119.如果在操作906社交网络系统(例如，社交网络系统服务器802)确定“是”，内容项具有特征(例如，关于第一用户、针对第一用户的账户、引用第一用户等)，则社交网络系统可以至少部分地基于先前接收的限制请求来处理内容项。例如，社交网络系统服务器802可以根据映射(例如，社交图840)来处理来自第二计算设备806的内容项，该映射标识第二用户(欺凌者)的账户相对于第一用户(受害者)的账户的限制。在一些示例中，当确定来自第二计算设备806的内容项包括特征(例如，在图9中显示为“是”)时，社交网络系统服务器802生成内容项的不同表示，以在第一计算设备804、第二计算设备806和/或第三计算设备808处呈现。特定表示可以至少部分地基于表示用户的账户之间的关系的映射(例如，社交图840)，包括某些用户被其他用户限制(例如，第二用户被第一用户限制)。
120.在操作910，过程900可以包括至少部分地基于限制呈现的请求，向与第一用户账户相关联的第一计算设备发送呈现内容项的第一表示的第一指令。在一些示例中，至少部分地基于限制呈现的请求，社交网络系统服务器802向第一计算设备804传输指令，以导致从第二计算设备806接收到内容项的第一表示。在一些示例中，内容的第一表示可以包括可用于管理具有特征的内容项的界面。例如，内容项的第一表示可以包括内容项存在的指示(例如，图4c中的表示406或图5c中的消息508)、可用于导致第一计算设备呈现内容项的控件(例如，图4c中的控件408或图5c中对消息508的选择)、和/或可用于批准、取消限制和/或删除内容的控件(例如，图4d中的控件410，或图5d中的控件512和控件514)。
121.在操作912，过程900可以包括向与第二用户账户相关联的第二计算设备发送呈现内容项的第二表示的第二指令，内容项的第二表示不同于内容项的第一表示。在一些示例中，内容项的第二表示使内容项看起来好像是实时呈现的(例如，好像对一个或更多个其他用户账户可见)。例如，图4a和图5a所示的界面示出了内容项的第二表示的示例。通过向每
个计算设备呈现受限内容的不同表示(例如，内容的不同表示)，社交网络系统服务器802通过允许受害者控制或限制由欺凌者张贴的关于受害者的不良内容对受害者和/或第三方可见的程度来减轻欺凌。
122.在一些示例中，第二用户可以尝试标记、提及或者以其他方式识别第一用户或将第一用户与第二用户的动态消息、报道等中的帖子相关联。在这种情况下，在操作914，社交网络系统可以从与第二用户账户相关联的第二计算设备接收输入，该输入包括第一用户的账户的标识符(例如，用户id、句柄、#标签(hashtag)等)的至少一部分。因为第二用户已经被第一用户限制，所以社交网络系统可以应用阻力以使得第二用户(受限用户)更难标记或提及第一用户。这种阻力可以采取在输入的文本和限制用户(例如，在该示例中为第一用户)的用户账户标识符之间应用更高的相似性阈值水平(例如，90％相似、95％相似、100％相似或匹配)的形式。因此，在操作916，社交网络系统可以确定输入是否满足与第一用户的标识符的相似性阈值水平。
123.如果在操作916，确定输入不满足相似性阈值水平，则在操作918，社交网络系统可以输出省略第一用户的账户的一个或更多个候选账户。例如，图6a所示的界面600a示出了输入与第一用户账户(限制用户账户)的标识符不够相似(例如，小于相似性阈值)的示例。
124.另一方面，如果在操作916确定输入满足或超过相似性阈值水平，则在操作920，社交网络系统可以输出包括第一用户的账户的一个或更多个候选账户。然而，在该示例中，社交网络系统可以在候选结果中降低第一用户的用户账户的权重。图6b示出了示例界面600b，其中输入与第一用户的账户(限制用户账户)的标识符足够相似(例如，满足或超过相似性阈值)。因此，以这种方式，社交网络系统应用阻力以使受限用户更难标记或提及已经限制了他们的用户(限制用户)。
125.本文描述的方法表示可以用硬件、软件或其组合实现的操作的序列。在软件的上下文中，这些块表示存储在一个或更多个计算机可读存储介质上的计算机可执行指令，当由一个或更多个处理器执行时，这些指令执行所述操作。通常，计算机可执行指令包括例程、程序、对象、部件、数据结构等，它们执行特定的功能或实现特定的抽象数据类型。描述操作的顺序不旨在被解释为限制，并且可以以任何顺序和/或并行地组合任意数量的所描述的操作来实现过程。在一些实施例中，可以完全省略方法的一个或更多个操作。作为示例而非限制，操作902-912可以在没有操作914-920的情况下执行，和/或操作902和914-920可以在没有操作904-912的情况下执行。此外，本文所述的方法可以整体或部分地彼此组合或与其他方法组合。
126.本文描述的各种技术可以在计算机可执行指令或软件(例如程序模块)的上下文中实现，这些指令或软件存储在计算机可读存储装置中，并由一个或更多个计算设备(例如图中所示的计算设备)的处理器执行。通常，程序模块包括例程、程序、对象、部件、数据结构等，并定义用于执行特定任务或实现特定抽象数据类型的操作逻辑。
127.可以使用其他架构来实现所描述的功能，并且这些架构意图在本公开的范围内。此外，尽管以上出于讨论的目的定义了特定的职责分配，但根据情况，各种功能和职责可能会以不同的方式进行分配和划分。
128.类似地，可以以各种方式并使用不同的手段来存储和分布软件，并且上述特定的软件存储和执行配置可以以许多不同的方式变化。因此，实现上述技术的软件可以分布在
各种类型的计算机可读介质上，不限于具体描述的存储器形式。
129.结论
130.尽管上面的讨论阐述了所描述的技术的示例实现，但是也可以使用其他架构来实现所描述的功能，并且这些架构意图在本公开的范围内。此外，尽管已经用特定于结构特征和/或方法动作的语言描述了主题，但是应当理解，所附权利要求中定义的主题不一定限于所描述的特定特征或动作。更确切地，特定特征和动作被公开作为实现权利要求的示例性形式。