Quando se fala em Machine Learning, diversas preocupações adicionais que eram basicamente inexistentes no mundo de software tradicional passam a surgir, como por exemplo a necessidade de monitorar o comportamento dos modelos de ML.

E nesse sentido, aqui vai uma ótima matéria do InfoWorld sobre o tema: https://www.infoworld.com/article/3675389/the-importance-of-monitoring-machine-learning-models.html

Nuito boa a comparação entre desenvolver e monitorar software versus desenvolver e monitorar machine learning.

ML (AI como um todo) é algo realmente bem mais complexo e de operação/curadoria as vezes até imprevisível, exigindo competências muito distintas tantos das áreas de IT quanto business aí longo de toda cadeia de valor.

Acrescento aqui minha percepção pessoal de que para complicar ainda mais, as próprias soluções de ML e AI parecem ser menos "perenes" do que as soluções tradicionais de SW,

Isso por conta de surgirem a cada ano tantos conceitos, plataformas e serviços novos (afinal de contas, estamos apenas engatinhando nisso) que aquilo que desenvolvemos hoje pode ficar defasado/obsoleto/ineficiente/não-competitivo muito rapidamente, as vezes antes mesmo de trazer o retorno sobre o investimento feito.