慈善事业——尤其是hits-based慈善——是由大量的判断决定的。在开放慈善项目卡塔尔世界杯小组赛最新赛程出炉中,我们明确地设计了我们的流程,在决定我们所采取的战略、我们优先考虑的事业和我们最终提供的资助时,主要考虑个人领导人和项目官员的意见。因此,我们认为,对于每个员工来说,讨论一下我们个人思维在哪些方面发生了变化是很有帮助的,不仅是关于特定的事业和赠款,还包括我们的背景世界观.
最近,我写了一篇相对详细的文章,讨论了我个人对三个相关主题的想法是如何改变的:(1)……的重要性卡塔尔世界杯赛程时间表,特别是价值定位问题;(2)潜力与许多想法和人有关有效的利他主义社区;(3)在评估一个想法或干预措施时要寻找的属性,特别是与其他属性相比,该在指标和“反馈循环”上赋予多少权重。在过去的几年里,我对这些问题的看法发生了巨大的变化,这使得我们作为一个组织处理这些问题的方式发生了重大转变。
我已经把我的完整报告发出来了个人谷歌文件.下面是摘要。
1.改变我对先进人工智能潜在风险的看法
我第一次想到卡塔尔世界杯赛程时间表-特别是价值定位问题——2007年。这个想法有些方面我觉得很有趣,有些方面我觉得说不通。在我心中,最重要的问题是“为什么没有(或很少)具有相关专业知识的人似乎关心价值对齐问题?”
我最初猜测,相关专家有充分的理由不关心,他们只是懒得与那些为相关风险的重要性辩护的人接触。我相信tool-agent区别因为这个原因,他是一个强有力的候选人。但随着我对人工智能和机器学习社区的了解越来越深入,我看到了如何做到这一点超智收到、听到的报告来自生命未来研究所在波多黎各召开的安全会议之后,我改变了自己的观点。
我现在相信,就先进人工智能的潜在风险而言,没有任何主流学术或其他领域(截至目前)可以被认为是“相关专业知识的所在”。这些风险涉及技术和社会因素的结合,与世界上任何可识别的短期问题没有直接关系,也与计算机科学的任何特定分支自然没有关联。这对我来说是一个重大的更新:我一直很惊讶,一个问题如此潜在重要的迄今为止,它几乎没有引起人们的注意——它所受到的关注在很大程度上(尽管不是全部)来自于有效的利他主义社区的人们。
2.改变我对有效利他主义(EA)社区的看法
我一直对这个很感兴趣有效的利他主义社区。我认为自己是这个社区的一部分,我和它有一些共同的核心价值观(特别是,尽可能多做好事的目标)。然而,在很长一段时间里,我把非常有限的权重放在一个特定子集的视图上1我在这个社区遇到的人。这在很大程度上是因为他们似乎倾向于基于看似简单的逻辑,而不伴随着深入的调查,得出非常不寻常的结论。我的印象是,在某种意义上,他们往往比我更愿意“在没有特别证据的情况下接受特别的说法”,这个话题我已经写过好几次了(在这里,在这里而且在这里).
很多事情都发生了变化。
- 上文所讨论的高级AI的潜在风险是我改变想法的一个话题:我之前认为这是EA社区的一个奇怪的关注点,现在我认为这是社区很早就强调了一个重要问题的一个主要案例。
- 更一般地说,我看到了大量的输出2022年世界杯足球比赛赛程表开放慈善项目卡塔尔世界杯小组赛最新赛程出炉我现在相信我在有效的利他主义社区中看到的最令人兴奋的原因的优势是由我们的标准重要的、不受重视的和易驯服的。这些原因包括2022世界杯赛程安排而且生物安全和大流行病防备除了卡塔尔世界杯赛程时间表.它们不是我们发现的唯一突出的原因,但总的来说,我增加了我的估计,从有效的利他主义社区的兴奋如何预测我将在更多的调查后发现的前景。
- 我看到以ea为中心的组织在激发人们对有效利他主义的兴趣和发展社区方面取得了进展。我已经直接看到了一些效果,包括更多的关注,捐赠者,以及为GiveWell和Open Philanthropy Project提供强有力的员工候选人。卡塔尔世界杯小组赛最新赛程出炉
- 我对一些社区成员有了更深入的了解,我对一些一般性话题的看法(如下)发生了改变,这在某种程度上减少了我对有效利他主义者所追求的那种想法的怀疑。
我现在觉得EA社区包含了最接近开放慈善项目的自然“同伴团体”——一群人始终分享我们的基本目标(做尽可能多的好事),因此卡塔尔世界杯小组赛最新赛程出炉有潜力以各种各样的方式帮助实现这个目标,包括合作和批评。我也看重其他类型的合作和批评,包括来自那些质疑“尽最大可能做好”的整个前提的人,他们可以带来我们所缺乏的见解和能力。但与我们有着相同基本前提的人,无论是作为合作者还是批评者,都有一种独特的用处。我开始觉得,有效的利他主义社区是找到这类人最合理的地方。
这并不是说我毫无保留地支持有效的利他主义社区;我有关注和反对意见关于与它相关的许多想法以及其中一些具体的人和组织。但与我最初的印象相比,我现在变得更加积极了。
3.改变我对有希望的想法和干预的一般性质的看法
在这里讨论的主题中,这是最难追溯我的思想演变的,也是最难总结的。
我曾经认为,人们应该对任何不涉及有用的“反馈循环”(尝试某件事,看看它的进展,做一些小的调整,并多次尝试)或有用的选择性过程(许多人尝试不同的想法和干预,而那些以某种有形的方式成功的想法和干预会变得更突出,更强大,更被模仿)的干预或想法持悲观态度。当没有强大的反馈循环和选择性过程时,我非常怀疑那些主要基于逻辑和反思来预测和改善世界的尝试。
我仍然认为这些东西(反馈循环,选择性过程)是非常强大和可取的;我们应该对不涉及他们的干预更加小心;有充分的理由选择在这些属性方面相对较强的慈善机构(比如GiveWell的顶级慈善机构);许多有效的利他主义团体,包括我印象最深的那些人,仍然低估了这些考虑。然而,我的观点已经大大缓和了。我现在看到了一个合理程度的希望,虽然缺乏这些东西,但有强烈的积极影响,特别是在使用逻辑、经验和科学推理时。
了解慈善的历史——以及更广泛地学习历史——是改变我想法的一个主要因素。我遇到过很多例子,慈善家或其他人似乎主要通过推理和反思具有非凡的先见之明和/或影响力。甚至算上生存偏差,我的印象是这些案件是经常发生的主要足以让我们尝试模仿这种影响。这种观点的改变既影响了上面讨论的两个主题,又受其影响。
4.结论
在过去的几年里,我变得更加积极的事业卡塔尔世界杯赛程时间表关于有效的利他主义社区,以及通过相对投机性的长期项目改变世界的总体前景,这些项目主要基于智力推理(有时包括导致“古怪”想法的推理),而不是直接反馈机制。我思想上的这些变化是由许多因素驱动的,包括相互之间。
其中一个贯穿的主题是,我对“简单、有逻辑、没有明显缺陷的论证;具有令人惊讶和不寻常的含义;这会让很多人产生反射性的异议和不适。”我以前对这样的论点非常怀疑,并期望他们不会阻止调查。然而,我现在认为,在缺陷被发现之前,这种形式的论点通常是值得认真关注的,因为它们通常代表着积极的创新。
这里讨论的变化使我从一个对先进人工智能和有效的利他主义组织的潜在风险的支持工作的怀疑者转变为一个倡导者,这反过来也是开放慈善项目在这些领域开展工作的主要因素。卡塔尔世界杯小组赛最新赛程出炉正如本文开头所讨论的,鉴于我们正在做的工作,我相信个人观点和机构优先事项之间的这种关系是合适的。
我不确定我以这里所描述的方式改变自己的想法是否正确,我仍然非常同情那些现在的观点与我以前的观点接近的人。但希望我已经给了你们变化的来源。
更多详情请点击这里: