AI 기업인 앤트로픽은 기술의 사회적 영향에 대한 우려를 해소하기 위해 수십억 달러에 달할 수 있는 주식의 5%를 공익 신탁에 기부할 계획입니다. 이 계획은 진정한 이타주의로 볼 수도 있고, 규제와 대중의 반발을 사전에 차단하기 위한 전략적 움직임으로 볼 수도 있습니다. 이 개념은 규모 면에서는 전례가 없지만, 수익금 100%를 자선 단체에 기부하는 폴 뉴먼의 뉴먼스 온을 연상시킵니다. 뉴먼이 자신의 명성을 선행을 위해 "이용"한 것은 6억 달러 이상의 자선 기금을 조성한 그의 회사를 고무시켰습니다.이제 효과적 이타주의라고 불리는 이 철학은 인류의 이익을 위해 부를 축적하는 것을 목표로 하는 최첨단 AI 분야에서 널리 퍼져 있습니다. 그러나 효과적 이타주의에는 샘 뱅크먼-프리드와 같이 자선적 목적을 위해 사기를 저질렀다고 주장되는 인물들로 대표되는 어두운 면도 있습니다. 앤트로픽이 인류를 위해 최대 주식 가치를 추구하는 것은 안전 조치를 소홀히 하여 파국적인 결과를 초래할 위험이 있습니다. 앤트로픽의 자선 의도는 칭찬할 만하지만, AI 안전, 창작물 권리, 사회적 영향에 대한 중요한 질문을 압도해서는 안 됩니다. 이타주의는 금전적 기여를 넘어섭니다. 긍정적인 목적이 항상 수단을 정당화하는 것은 아닙니다. 기술 자체가 의도치 않게 인류를 해치거나 제거한다면 인류를 위해 부를 축적하는 것은 아무런 이익이 없습니다.