ACM通信
与系统博弈:定义
随着推荐系统的激增，它们给游戏带来了新的漏洞。我所指的游戏是指那些遵守规则，但违背意图的活动;正如我们在英语中所说，他们遵循法律的字面意思，但不遵循法律的精神。把搜索引擎引到虚假页面的白色文字就属于这一类，因此，在网上购买具有特定描述的商品——制造和型号、制造、材料——往往会出现劣质商品的商业报价。
当然，玩系统是一种历史悠久、表现形式新颖的线下人类活动。创造性会计可以玩弄税法，安慰动物可以玩弄残疾人支持系统。在这里，我们希望将定义限制为数字版本，允许偶然的和令人惊讶的接受和拒绝，从而导致系统的改进。
“玩弄体制”的现代定义:
原因:操纵或利用为控制给定系统而设计的规则，以试图获得对其他用户的优势［01］
维基百科:相反，使用旨在保护系统的规则和过程来操纵系统以获得预期的结果［维基］
维基百科也讨论了它的自我反思版本:“……恶意地故意使用维基百科的政策和指导方针来阻挠维基百科的目标。游戏系统可能代表着过程的滥用，破坏性的编辑，或以其他方式逃避社区共识的精神。编辑们通常会利用这个系统来表明自己的观点，进一步推进编辑战，或强制执行一种特定的非中立观点。”Wiki:游戏］．是的，这就是我们在讨论的，在讨论这些事情的语境中表达出来的。
这些定义排除了通过意想不到的良性手段取得结果的天真性——至少出于学术原因，我们希望保留这一点。让我们先把一些可能合适但不合适的活动放在一边，找出与游戏系统现象有关的元素。这不是垃圾邮件和网络钓鱼，这是利用社交协议进行的基于计算机的欺诈，因此不是在单个系统中发生的。此外，这并不是发生在游戏中的游戏。游戏显然是对抗性的;玩家被邀请在充分理解上下文的情况下做出可见的动作。“游戏”一词暗示着博弈论，但这一领域是对持续多方交换的数学研究，与游戏一起被排除在外。计算机病毒从欺骗系统中获利，但我们可以问他们是否遵守游戏规则。这不是犯罪，黑帽黑客，行凶者有恶意。更确切地说，这是一种机会主义，在这种情况下，犯罪者可能只是试图完成某些事情(无论是否理解系统的目标)。
如果这个系统是一成不变的，就没有理由进行评估。例如，买鸡尾酒通常取决于两个标准，最低年龄和是否有钱。在这种情况下，不需要审查人员或法官，也不存在游戏，只有直接违规。文雅可能是清醒的必要条件;现在，这个系统需要人的判断。假设我们正在经营一家俱乐部(或机构、慈善机构、共同工作空间或家庭)，会员申请由一个小组进行评估，该小组努力实现通过共识制定的选民目标。
就系统及其游戏而言，这一努力的元素是什么?
- 有某种系统R，包含某种决定或规则(我们的俱乐部会员标准，可能不是公开的)，它定义了一组成功的会员申请M。
- 系统设计人员想要一些模糊定义的结果G(我们想要的成员类型)。
- 一个潜在的(但不需要的)成员，或这种人的伙伴，“违法者”T。
- 一个对象X(必须接受的成员申请)由满足选择R但阻碍意图G的T构造。
注意，这是一个建模练习。系统的公理是规则R。意图是目标状态g的集合。但是系统实际上定义了实例化或模型m。违反者T充分掌握了R来构建X,在那里X∈M但X结果G.成功博弈的一个常见结果是细化R(进而排除M)X和它的同类。
下面是一个新的定义:游戏系统是由一个代理人发现和利用它的意想不到的启示，以巧妙地利用它的预期利益．意图很重要。科技公司必须积极考虑通过推荐系统实现的意图，但我们在专有产品上没有受益于这些讨论。几年前，谷歌已从公开合作转变为专有保密，并不断更新对此类搜索越界行为的检测情况[森泰斯］．生成审批动作的网络机器人现在被许多服务机构视为非法。我们可以打赌，有人，很多人，高薪的人，已经在做这种分析，比你在这里看到的更精确，更深入。
他们可能会考虑这些令人担忧的假设:
- 对于任何目标集G，规则R都是不充分的:M≠G，因为无论我们如何细化R来限制M，我们仍然(如上面所示)有∃X，使得X∈M，但结果是X≠G。X．
- 对于任何目标G，规则R在另一方面都是不充分的:无论我们对R进行多少细化来扩大M，我们仍然会发现∃X，以致X∈G，而X∈M。一些好的前景会被拒绝。
- 如果R是已知的，那么任何前景都带有足够丰富的上下文数据集来构建G的模型，无论系统有多么受约束。也就是说，根据R和对G的精明猜测，编辑各种事实，通常是可能的，结果是接受X∈M如此X严格来说是G…但从“技术上”来说，这让系统设计师感到沮丧。
从这些可能性中还可以得出其他令人担忧的假设，其中一些我们已经很明显，而且在现实中也很明显。
- 无论我们多么努力，我们都无法阻止游戏;任何程序选择都会受到干扰。
- 无论我们如何努力，我们最终都会抛弃那些我们没有想到的理想成员。(请参阅关于推荐系统当前问题的大量评论!)
- 结合透明化的AI推荐系统，和非歧视性的G，这意味着X可以由程序构造，使用确切的标准R作为约束，通过扭曲一些上下文特征或获取凭据。换句话说，任何人都可以通过运行机器人(无需撒谎)进入我们的俱乐部。
这些是成立还是否认?这个定义还包括什么?还有什么需要考虑的呢?
参考文献
[句子]丽贝卡·句子。2017。谷歌的更新是否应该更加透明?搜索引擎观察。已于2021年7月27日访问。
[什么]Ivy Wigmore, 2021年。文章“玩弄体制”。由TechTarget的WhatiIs.com。2021年7月30日检索。
[Wiki]维基贡献者。2021.(2021年5月18日)。游戏系统。在维基百科，自由百科全书。2021年7月28日检索。
[Wiki:游戏]维基百科》2021。(2021年7月4日).维基百科:游戏系统。2021年7月28日检索。
罗宾·k·希尔他是怀俄明大学计算机科学系的讲师，也是哲学与宗教研究系和怀俄明人文研究所的附属机构。她自1978年以来一直是ACM的成员。
没有发现记录