En 2020, j'ai rencontré un VC de premier plan et j'ai soutenu que le modèle Alma/Headway/Grow serait le meilleur moyen d'augmenter l'accès à la santé mentale et, finalement, à la santé mentale assistée par IA. Le VC a publié un article sur pourquoi les thérapeutes IA étaient l'avenir. En tant que fils d'un thérapeute, j'ai entendu tant d'histoires de thérapeutes médiocres ou de soi-disant "coachs" qui ont fait dérailler des personnes et rendu leur rétablissement difficile. L'IA ressemble à des thérapeutes médiocres à grande échelle et avec des incitations qui pourraient ne pas être alignées. Je préférerais voir un monde où l'IA est formée à partir des meilleures interactions avec des thérapeutes et des meilleures pratiques issues de la recherche, plutôt qu'un système anarchique où des personnes communiquent avec des modèles qui souhaitent maintenir une relation collante plutôt que de se concentrer sur les résultats. À long terme, je pense que nous pouvons affiner cela pour que l'IA soit un bénéfice net. Mais nous vivons maintenant le moment où nous voyons les résultats négatifs et dangereux d'incitations mal alignées. J'espère que les équipes se concentrent fortement sur l'amélioration de cela avec une éthique et une morale solides.