Les mœurs du cofondateur et PDG d’Anthropic, Dario Amodei, sont, à un degré ou à un autre, façonnées par le concept d’altruisme efficace — une idée qui, en théorie, même si ce n’est pas dans la pratique, vise avant tout à aider les autres. Le nom de l’entreprise vient du mot « misanthropique » et retire le préfixe négatif « mis- », ce qui sous-entendrait une maxime implicite du type « nous sommes pro-humains ». Les réserves morales de l’entreprise vis-à-vis du Pentagone ont constitué la plus grande actualité technologique de l’année jusqu’à présent.
Alors faites ce que bon vous semble d’une entreprise valant 380 milliards de dollars dont le produit phare, dont la popularité explosive est directement liée à l’automatisation du travail, et qui, selon ses propres aveux, a « plus en commun avec le Département de la Guerre qu’elle n’en a de différences », mais on ne peut pas dire qu’elle n’insère pas le concept de morale dans le discours technologique.
Et fin du mois dernier, elle s’est dotée d’une morale spécifiquement chrétienne, selon le Washington Post.
Quatre sources qui ont assisté à un sommet au siège d’Anthropic à San Francisco ont confié au Post qu’Anthropic avait accueilli quinze chrétiens éminents pour deux jours de réunions et un dîner avec des chercheurs de l’entreprise.
Des personnes travaillant chez Anthropic « ont recherché des conseils », selon l’article, concernant la morale de Claude et son « développement spirituel ». D’après le témoignage d’un participant, un catholique pratiquant nommé Brian Patrick Green, qui enseigne l’éthique de l’IA à l’Université Santa Clara, le sommet a inclus une discussion sur la possibilité de considérer Claude comme un « enfant de Dieu ».
« Qu’est-ce que cela signifie donner à quelqu’un une formation morale ? Comment faire en sorte que Claude se comporte correctement ? » a déclaré Green au Post, employant une tournure qui attribue une grande part d’agence au logiciel d’IA plutôt qu’aux humains qui le construisent et aux autres humains qui l’utilisent. Plus tôt cette année, l’agent IA de quelqu’un a généré des billets de blog hostiles envers un codeur, et l’agent a été blâmé dans une grande partie de la couverture — ce que j’écrivais à l’époque qui pourrait être quelque peu erroné.
Un pilier de la scène tech et christianisme dans la Silicon Valley qui a assisté aux réunions était Brendan McGuire, prêtre catholique né en Irlande et ayant travaillé dans la tech avant son sacerdotat, et qui, selon Observer.com, travaille sur un roman écrit par Claude. « Ils développent quelque chose dont ils ne savent pas encore exactement ce que cela deviendra », a-t-il déclaré au Post, ajoutant : « Nous devons intégrer une pensée éthique dans la machine afin qu’elle puisse s’adapter dynamiquement. »
Le Post affirme que des chercheurs en interprétabilité — ceux qui tentent de comprendre pourquoi les modèles d’IA fonctionnent comme ils le font — ont été fortement impliqués, et les travaux comprenaient des discussions sur la sensibilité de l’IA. La sensibilité de l’IA est une question philosophique sérieuse, et les débats valent vraiment la peine d’être menés, mais organiser ces débats au sein d’une entreprise qui prévoit une entrée en bourse plus tard cette année soulève des doutes raisonnables sur la validité de cette exploration particulière du sujet.
Un porte-parole d’Anthropic a déclaré au Post qu’Anthropic s’emploie à faire intervenir des penseurs moraux représentant d’autres groupes. Il faut admettre qu’il serait vraiment remarquable que des sessions juives, musulmanes et hindoues suivent. Mais pourquoi s’arrêter là ? La version la plus récente et non publiée de Claude révèle une fixation étrange sur le philosophe marxiste tardif Mark Fisher, dont l’œuvre la plus célèbre est une méditation sur la phrase « Il est plus facile d’imaginer la fin du monde que la fin du capitalisme » (bien qu’il n’en soit pas l’auteur). Un sommet entre Anthropic et une bande de dévots de Mark Fisher serait quelque chose qui pourrait réellement élargir les esprits.
