Año | Year: 2024

Volumen | Volume: 12

Número | Issue: 2

DOI: https://doi.org/10.17502/mrcs.v12i2.812

Recibido | Received: 1-8-2024

Aceptado | Accepted: 21-10-2024

Primera página | First page: 1

Última página | Last page: 16

En los últimos años, ha aumentado el interés científico en la generación del conocimiento entre los procesos automatizados de inteligencia artificial (IA) y los servicios sociales. Este artículo presenta una revisión sistematizada de la literatura existente entre 2009 y 2024 sobre el impacto de la inteligencia artificial (IA) en los servicios sociales. Su objetivo es examinar y analizar tanto las potencialidades y contribuciones como las limitaciones y desafíos asociados con la IA en este ámbito, con el propósito de proporcionar una visión integral que facilite su comprensión y aplicación. La revisión se centrará en estudios que investigan la implementación de la IA en los servicios sociales, considerando tanto los aspectos teóricos como prácticos. Entre los resultados del estudio se incluyen investigaciones que destacan el potencial transformador de la IA, así como aquellas que proponen modelos específicos para su implementación efectiva, prestando especial atención a los desafíos éticos, técnicos y prácticos que surgen con la incorporación de la IA en este ámbito. Finalmente, en el apartado de discusión, se lleva a cabo un análisis crítico de los datos recopilados, evaluando las implicaciones de los hallazgos y sugiriendo posibles trayectorias futuras para la implementación de la inteligencia artificial en los servicios sociales. 

Palabras clave: desafíos éticos, Framework SALSA, Inteligencia artificial, revisión sistematizada, servicios sociales,

In recent years, scientific interest in the generation of knowledge between automated artificial intelligence (AI) processes and social services has increased. This article presents a systematized review of the existing literature between 2009 and 2024 on the impact of artificial intelligence (AI) on Social Services. It aims to examine and analyze both the potentialities and contributions as well as the limitations and challenges associated with AI in this field, with the purpose of providing a comprehensive view that facilitates its understanding and application. The review will focus on studies investigating the implementation of AI in Social Services, considering both theoretical and practical aspects. The results of the study include research that highlights the transformative potential of AI, as well as those that propose specific models for its effective implementation, paying special attention to the ethical, technical and practical challenges that arise with the incorporation of AI in this field. Finally, in the discussion section, a critical analysis of the data collected is carried out, assessing the implications of the findings and suggesting possible future trajectories for the implementation of artificial intelligence in Social Services.

Key words: ethical challenge, SALSA Framework, artificial intelligence, systematized review, social services,

Vallejo-Andrada, A., Martí-García, S. Gómez-Rasco, T., y Ferri-Fuentevilla, E. (2024). Aportaciones y Limitaciones de la incorporación de la inteligencia artificial a los servicios sociales: Una revisión sistematizada. methaodos.revista de ciencias sociales, 12(2), m241202a04. https://doi.org/10.17502/mrcs.v12i2.812

1. Introducción

En una conferencia en Dartmouth College (Hanover, Estados Unidos) a finales de los años 50, tuvo lugar un hito que cambiaría la forma de relacionarnos con las nuevas tecnologías de información y comunicación. Fue aquí donde se creó el germen de la Inteligencia Artificial (IA) y su nuevo campo científico (Abeliuk y Gutiérrez, 2021)^Ref1. Años más tarde de esta fundación y, como nos muestran estos autores, tras un largo recorrido desde el primer programa informático realizado con IA en 1956 hasta la creación en 2018 del primer modelo de lenguaje bidireccional llamado BERT y realizado por Google, se ha originado y aumentado el interés científico que da lugar a la generación de conocimiento en torno a la relación entre los procesos automatizados de Inteligencia Artificial (IA) y los servicios sociales. Esta cuestión, aún poco explorada, requiere un acercamiento interdisciplinario para evolucionar desde un modelo de servicio analógico a uno digital que permita la conjunción de ambas disciplinas. En este sentido, existe bibliografía que relaciona estos dos elementos, tratándose en su mayoría de investigaciones que ponen de manifiesto la potencialidad de la IA en el marco de los servicios sociales y estudios que proponen modelos específicos aplicados a la práctica.

En cuanto al marco normativo, es relevante subrayar la reciente regulación que incide directamente en la implementación de IA y las tecnologías innovadoras en el ámbito de los servicios sociales. A nivel europeo, el Reglamento (UE) 2024/1689^Ref27, conocido como la Ley de Inteligencia Artificial, constituye la primera regulación global que establece un conjunto de normas armonizadas para el desarrollo, comercialización y uso de la IA, con el fin de garantizar su utilización segura, ética y respetuosa con los derechos fundamentales. En el contexto español, la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales^Ref18, constituye el principal marco jurídico que regula la protección de los datos personales, un aspecto esencial en la aplicación de tecnologías emergentes como la IA en sectores donde se manejan datos sensibles, como los servicios sociales.

En el ámbito autonómico, cabe mencionar la Ley 9/2016, de 27 de diciembre^Ref19, de Servicios Sociales de Andalucía, que establece el marco normativo para los servicios sociales en esta comunidad, definiendo estos como:

El conjunto de servicios, recursos y prestaciones orientados a garantizar el derecho de todas las personas a la protección social, en los términos recogidos en las leyes, y tienen como finalidad la prevención, atención o cobertura de las necesidades individuales y sociales básicas de las personas en su entorno, con el fin de alcanzar o mejorar su bienestar. Estos servicios, configurados como un elemento esencial del estado de bienestar, están dirigidos a alcanzar el pleno desarrollo de los derechos de las personas en la sociedad y a promocionar la cohesión social y la solidaridad.

Para comprender mejor el impacto de la IA en los servicios sociales, es crucial contextualizar la situación actual en España. Los servicios sociales soportan una sobrecarga tanto a nivel profesional como estructural. Una de las consecuencias más destacadas de esta sobrecarga es el llamado burnout de los profesionales de lo social, que resulta de la alta burocratización de los procesos, el incremento del número y complejidad de demandas y la falta de recursos técnicos y tecnológicos (Caravaca-Sánchez et al., 2019)^Ref6. La pandemia de COVID-19, que llegó a España en marzo de 2020, subrayó las debilidades del sistema de servicios sociales, declarados esenciales ante la gravedad de la situación biopsicosocial de la población española. Esta crisis sanitaria evidenció las carencias del sistema y tuvo consecuencias directas en los profesionales de los servicios sociales, afectando sus funciones, desarrollo personal y profesional, así como a los colectivos más vulnerables (Muñoz-Moreno et al., 2020)^Ref22. En este contexto, la IA y el Big Data se postularon como soluciones dominantes para el abordaje de la situación pandémica, que puso de relieve la delicada relación entre las tecnologías de corte disruptivo y los repositorios de datos sensibles de la población (Márquez, 2020)^Ref20. 

Ante el reto de la realidad dinámica y heterogénea derivada de lo anterior, donde se aceleró exponencialmente la relación entre tecnología y Trabajo Social, los servicios sociales necesitaron orientar sus formas de trabajo, gestión y organización de recursos desde unas políticas sociales y éticas que dieran una respuesta eficaz y eficiente al actual escenario de protección social. En este sentido, la innovación se convierte en un mediador crucial entre el ámbito social y técnico, logrando una sinergia sistemática tecnológica en la nueva era del conocimiento dentro de un sistema globalizado (Minguijon y Serrano-Martínez, 2022^Ref21; Ramírez-Navarro, 2023^Ref24). Según Felip et al., 2023^Ref10, las administraciones públicas deben adaptarse al ritmo de las necesidades sociales vigentes y es ahí donde las herramientas de diagnóstico, planificación, intervención y evaluación de los servicios sociales, deben pasar por la aplicación de un trabajo interdisciplinar basado en buenas prácticas, en el marco de una transformación digital integral del sistema, que redunde en la mejora de la situación de los servicios y de los profesionales técnicos de atención.

La IA ha llegado para quedarse en los diferentes ámbitos de gestión pública, siendo el Trabajo Social uno de los puntos clave para la implantación de la digitalización de procesos en los servicios sociales. Las vías de aproximación se relacionan con las características sociales de complejidad e incertidumbre, la especificidad de cada caso y la necesidad de que las respuestas a estas características sociales sean viables y éticas (Minguijon y Serrano-Martínez, 2022)^Ref21.

Como en todo campo tecnológico, la ética como disciplina filosófica, cuyos principios armonizan con la moral, juega un papel muy importante. Así es también en el caso de la implementación de la IA en los nuevos escenarios de la sociedad digital. La manipulación maliciosa de los macrodatos atentando a la privacidad de las personas, es uno de los debates imperantes actuales dentro de esta revolución tecnológica y científica sometida a la interacción de un binomio humano y autómata que necesariamente coexiste en el contexto emergente de la IA y que genera variedad de dilemas éticos. Los campos que son susceptibles de usos nocivos tienen que ver con la invasión de los entornos, intimidad, seguridad e identidad, generando daños sociales y abriendo la necesidad de crear potentes alternativas de defensa apoyadas en la ciberseguridad. La dignidad humana, y derechos fundamentales como la libre expresión, el empleo o la salud son elementos vitales a proteger (González y Martínez, 2020)^Ref13.

Es innegable que la IA está emergiendo como una herramienta esencial en varios sectores de la gestión pública, incluyendo los servicios sociales. Este sector está adoptando la digitalización de procesos para transformar y optimizar las áreas de gestión, prevención, detección e intervención. El objetivo es mejorar tanto la eficiencia como la efectividad en la atención a las personas usuarias, facilitando así una prestación de servicios más ágil y eficaz. La aplicación de la IA en los servicios sociales enfrenta desafíos particulares debido a la naturaleza intrínsecamente compleja e incierta de los problemas sociales. Cada caso presenta características únicas que requieren soluciones adaptadas a sus especificidades. La integración de la IA debe, por lo tanto, abordar estas particularidades de manera que las respuestas ofrecidas sean tanto viables como éticamente responsables (Minguijon y Serrano-Martínez, 2022)^Ref21. Es esencial que las tecnologías digitales no solo optimicen los procesos, sino que también respeten los principios de justicia y equidad, garantizando que la intervención tecnológica sea adecuada y beneficiosa para todas las partes involucradas.

En este contexto, este estudio tiene como objetivo principal explorar y analizar el impacto de la IA en los servicios sociales e identificar tanto sus potencialidades y aportaciones como sus aspectos negativos y limitaciones. Para alcanzar estos objetivos, se ha llevado a cabo una revisión sistematizada de la literatura existente entre 2009-2024 centrada en estudios que abordan la aplicación de la IA en los servicios sociales, evaluando tanto los aspectos teóricos como prácticos. Se han incluido investigaciones que destacan el potencial transformador de la IA y aquellas que proponen modelos específicos aplicados a la práctica. Además, se ha prestado especial atención a los estudios que abordan los desafíos éticos, técnicos y prácticos asociados con la integración de la IA en los servicios sociales.

2. Metodología

La revisión de la literatura que se presenta adopta criterios sistematizados y de calidad (Hart, 2008)^Ref16 para conocer cuáles son las aportaciones, limitaciones, aspectos negativos y líneas futuras de investigación en relación con el binomio servicios sociales e Inteligencia Artificial. El proceso de búsqueda y selección de investigaciones ha dado como resultado final para el análisis 20 publicaciones de alto impacto indexadas en 3 bases de datos entre los años 2009-2024: Web of Science (WoS), Scopus y ProQuest.

La metodología utilizada ha sido la propia de las revisiones sistematizadas en las Ciencias Sociales, tomando como referencia el Framework SALSA (Search, Appraisal, Synthesis, and Analysis) y sus cuatro fases (Grant y Booth, 2009)^Ref15. A los efectos de nuestro estudio, se ha diseñado una base de datos en Microsoft Excel para sintetizar y sistematizar la información.

La primera y segunda fase, búsqueda y evaluación, proporcionan la base de la evidencia y recogen los principios de la sistematización (Codina, 2018)^Ref8. Respecto a la tercera (análisis) y cuarta fase (síntesis) se ha utilizado aproximaciones metodológicas basadas en la grounded theory (Sandelowski et al., 2007)^Ref29 partiendo de un conjunto de estrategias inductivas para analizar los datos. Estas dos últimas fases se desarrollan en el apartado de resultados de la investigación.

Fase 1: Búsqueda

La búsqueda se realizó en tres bases de datos académicas de reconocido prestigio a nivel internacional y nacional, WoS, Scopus y Proquest. Se han seleccionado estas bases de datos por ser ampliamente utilizadas en revisiones sistematizadas en el campo de las ciencias sociales, por su extensa cobertura temática, alta calidad en los contenidos y acceso a textos completos (Burnham, 2006^Ref4; Gouch et al., 2012^Ref14).

Cada base de datos tiene una disposición concreta de cómo expresar las ecuaciones de búsqueda, pero los términos introducidos y los caracteres booleanos son coincidentes en todas ellas (Figura 1). Las palabras clave y términos utilizados en las ecuaciones de búsqueda incluyeron: "servicios sociales", "Inteligencia Artificial". Se utilizó el operador booleano “AND” para combinar términos, asegurando la relevancia y especificidad de los resultados obtenidos. Este enfoque amplio fue necesario para capturar la mayor cantidad posible de estudios relevantes, ya que búsquedas más específicas no arrojaban resultados significativos ni interesantes. Este método ha sido respaldado por la literatura en revisión sistemática, que sugiere que en áreas emergentes o poco exploradas es preferible utilizar términos de búsqueda más generales para asegurar una cobertura adecuada de la literatura existente (Arksey y O'Malley, 2005)^Ref3.

Fase 2: Evaluación

Tal como muestra la Figura 1 comenzamos a trabajar con un banco de documentos de 268 publicaciones, que tras aplicar los criterios de inclusión y exclusión acordados por el equipo en la primera y segunda fase de evaluación se redujeron a 20. Dichos artículos pasaron dos filtros relativos a la afinidad del contenido con la temática de la investigación, pasando a ser 70 tras una primera revisión, 34 tras una segunda y 20 como resultado final. Los criterios de inclusión han considerado estudios empíricos, teóricos y revisiones literarias que abordan la relación entre servicios sociales e IA, publicados en inglés o español entre los años 2009 y 2024. Los criterios de exclusión eliminan duplicados y estudios fuera del ámbito de los servicios sociales. Los artículos resultantes se han analizado leyendo el título y el resumen. En aquellos casos donde el título y el resumen no eran suficientes para decidir, se ha realizado una lectura del contenido del trabajo académico (segunda fase de evaluación).

La evaluación de los artículos encontrados se ha llevado a cabo mediante un riguroso proceso colaborativo en el que participaron cuatro investigadoras. Los criterios de inclusión y exclusión se acordaron de manera consensuada para asegurar la coherencia y la calidad del proceso de selección. Inicialmente, se han realizado reuniones para definir el protocolo de búsqueda y establecer los criterios específicos que guían la revisión. Durante el proceso, se han realizado reuniones intermedias para discutir y resolver cualquier duda o discrepancia que surgiera, garantizando así una evaluación precisa y uniforme. Finalmente, se han celebrado reuniones de cotejo para revisar y consolidar los resultados obtenidos, asegurando que todas las investigadoras estuvieran de acuerdo con las decisiones tomadas y los artículos seleccionados (Tabla 1) y los excluidos (Tabla 2) para el análisis final. Este enfoque colaborativo y sistemático fortalece la validez y la fiabilidad de la revisión sistematizada.

Fase 3: Análisis

En la fase de análisis, se utiliza una aproximación metodológica basada en la grounded theory. Se parte de un conjunto de estrategias inductivas para analizar los datos cualitativos y cuantitativos de los estudios seleccionados. El análisis incluye categorías predefinidas (aportaciones y aspectos negativos) con la finalidad de responder a los objetivos planteados y estandarizar los procesos de búsqueda y análisis.

Fase 4: Síntesis

La síntesis de los resultados se realiza mediante un enfoque mixto, combinando análisis cuantitativos y cualitativos para proporcionar una visión comprensiva y detallada de la literatura revisada. En primer lugar, se lleva a cabo una aproximación cuantitativa a los datos, presentando descripciones estadísticas en tablas de frecuencia que reflejan cómo se comportan diversas variables, tales como la tipología de los artículos, el año de publicación, la revista en la que fueron publicados, y la ubicación geográfica de los estudios. Estas tablas permiten identificar patrones y tendencias generales en la investigación sobre servicios sociales e IA.

Posteriormente, se realiza un análisis descriptivo más cualitativo, desarrollando un examen detallado de los textos seleccionados. Este análisis cualitativo se centra en responder a las cuatro cuestiones planteadas inicialmente: las aportaciones de los estudios, las limitaciones identificadas, los aspectos negativos destacados y las líneas futuras de investigación sugeridas. A través de esta doble aproximación, cuantitativa y cualitativa, se logra una comprensión más profunda y matizada del estado actual de la investigación en este campo emergente, proporcionando una base sólida para futuras investigaciones y aplicaciones prácticas en el ámbito del Trabajo Social.

Para organizar la información de los artículos en las categorías mencionadas y sintetizar detalles clave de cada estudio, el equipo acordó las cuestiones que se deberían recoger y la estructura analítica de cada una de las categorías solicitadas: 1. Aportaciones de los estudios incluidos: a) Objetivos y resultados principales; b) Innovaciones introducidas; c) Contribuciones al campo de los servicios sociales y la IA, y 2. Aspectos negativos de las experiencias: a) Desafíos y problemas encontrados; b) Impactos no deseados.

Respecto a las consideraciones éticas, el estudio ha respetado todas las consideraciones éticas relacionadas con la revisión de literatura, asegurando la integridad y la ética académica en todas las etapas del proceso. No se han manejado datos personales o confidenciales, ya que la revisión se ha basado exclusivamente en estudios publicados y accesibles.

3. Resultados

La revisión sistematizada sobre la relación entre servicios sociales e IA revela un campo emergente con diversas aplicaciones y enfoques, destacando tanto en investigaciones basadas como en aplicadas en diferentes contextos geográficos y culturales. Este análisis permite identificar patrones y tendencias que pueden orientar futuras investigaciones y prácticas en el ámbito de los servicios sociales.

Los resultados se basan en la tercera (análisis) y cuarta fase (síntesis) del marco SALSA. En la tercera fase se describen los hallazgos mediante un análisis de frecuencia, considerando variables que permiten ofrecer una visión general de la situación del objeto de estudio. El Gráfico 1 muestra el número absoluto de publicaciones, organizadas según la metodología, el año de publicación y ámbito territorial. En la cuarta fase se resumen los resultados obtenidos en función de las distintas aportaciones que estos estudios ofrecen en materia de servicios sociales e IA y los aspectos negativos percibidos de la aplicación de la IA a los servicios sociales.

3.1 Descripción de los estudios incluidos

Las principales características de los artículos incluidos en esta investigación, publicados entre 2009 y 2024, se encuentran relacionadas en función del año de publicación con una clara prevalencia de estudios del año 2022, suponiendo estos el 30% de la muestra analizada, esto puede deberse a que al igual que en otros sectores, debido a la COVID-19, los servicios sociales de todo el mundo se vieron en la obligación de informatizarse, para poder responder a las demandas que la pandemia planteaba, esta informatización sirvió como puerta de entrada a la IA en este sector, produciéndose un aumento del interés por esta temática durante los años posteriores.

Otro de los datos que resulta llamativo de este análisis, es la gran prevalencia de estudios cualitativos (45%). Mientras que en otras ramas de estudio de la IA priman los estudios cuantitativos, el campo de los servicios sociales, al encontrarse estrechamente relacionado con el trato a las personas usuarias, tienden a predominar estudios de este tipo. En lo relativo a su ubicación geográfica, destacan aquellos centrados en Europa (35%) y en Asia (30%), siendo dos zonas geográficas donde las políticas gubernamentales han potenciado la investigación en esta área.

3.2 Aportaciones de los estudios incluidos

Tal y como podemos apreciar en la Tabla 3 observando las distintas aportaciones que plantean los estudios analizados, podemos dividirlas en cuatro subcategorías: Aquellas centradas en la optimización organizacional de los servicios sociales junto con otros servicios afines; las focalizadas en la generación de una herramienta de evaluación detección y prevención de situaciones de riesgo que afectan a distintos colectivos; los estudios que tiene como objetivo reducir el aislamiento social, así como potenciar y analizar las respuestas emocionales y habilidades sociales; y por último, aquellos centrados en la asistencia y el entrenamiento de profesionales de los servicios sociales.

Dentro de las distintas aportaciones que los estudios analizados realizan sobre la incorporación de la IA a los servicios sociales, numerosos estudios (Osorio et al, 2017^Ref23; Ranerup y Henriksen, 2020^Ref25; Raya-Diez et al., 2021^Ref26; Robila y Robila, 2020^Ref28; Tyrväinen et al., 2018^Ref33; Vieria et al, 2022^Ref34; Yin, 2021^Ref38) apuntan a la utilización de la IA para la optimización organizacional de distintos servicios.

En el ámbito de la optimización de servicios médicos y sociales, Osorio et al. (2017)^Ref23 han destacado la importancia de políticas flexibles para la asignación de recursos. Su modelo matemático no sólo aumentó la admisión de personas usuarias en un 35%, sino que también redujo las listas de espera en un 13%. Este enfoque se complementa con el trabajo de Ranerup y Henriksen (2020)^Ref25, quienes exploraron la automatización robótica de procesos (RPA) en los servicios sociales suecos. Su estudio subraya cómo la tecnología puede mejorar la toma de decisiones, abordando aspectos éticos y democráticos, y demostrando una implementación efectiva en el proyecto de innovación Trelleborg.

El interés en optimizar y automatizar procesos también se refleja en el estudio de la autora Raya-Diez et al. (2021)^Ref26, que propuso un sistema basado en criterios estadísticos para fortalecer la herramienta SiSo. Este sistema se muestra eficaz para medir los niveles de riesgo de exclusión social, destacando además el potencial del Big Data para enriquecer el trabajo social, alineándose con la idea de utilizar tecnologías avanzadas para mejorar la eficiencia y la precisión.

Esta mejora en la gestión y evaluación de riesgos está en línea con las propuestas de Vieira et al. (2022)^Ref34, quienes sugieren desarrollar aplicaciones específicas para coordinar eficientemente el Servicio de Ayuda a Domicilio y para detectar riesgos online en menores, subrayando la importancia de la IA en contextos educativos y sociales. Que al igual que Yin (2021)^Ref38 proporciona un ejemplo de cómo la tecnología puede transformar la gestión de servicios sociales a través de la plataforma "Internet Plus" con machine learning.

A nivel de diagnóstico y predicción, Robila y Robila (2020)^Ref28 señalan la relevancia de la IA en ciencias del comportamiento y sociales. Destacan cómo la IA ha mejorado la detección temprana de condiciones como el autismo y el Alzheimer, así como en la comprensión de aspectos del desarrollo humano y la gestión de datos en servicios sociales. Siguiendo esta última línea explorada por Robila y Robila (2020)^Ref28, nos encontramos con otro grupo de estudios (Caddle et al., 2023^Ref5; Crooks et al., 2024^Ref9; García et al., 2022^Ref11) que centran sus aportaciones en la utilización de la IA para la evaluación, detección y prevención. En un esfuerzo por proteger a los menores y abordar problemáticas sociales complejas, Caddle et al. (2023)^Ref5 sugieren el uso de IA para identificar y alertar sobre situaciones de riesgo online que involucren a menores, notificando a los centros educativos cuando sea necesario. Esta propuesta se alinea con la tendencia de utilizar tecnologías avanzadas para prevenir y gestionar situaciones de riesgo. En un contexto similar, Crooks et al. (2024)^Ref9 exploran la aplicación de la IA en casos de violencia de género, donde puede identificar el control ejercido por el abusador a través de canales digitales. Esta herramienta no solo valida la percepción de la víctima sobre el abuso, sino que también ayuda a desmontar el discurso del agresor, proporcionando vías de ayuda y notificación a los profesionales involucrados en la supervisión del caso. Esta aplicación tecnológica busca reforzar el apoyo a las víctimas y mejorar la intervención profesional. Por otro lado, el estudio de las autoras García et al. (2022)^Ref11 se centran en el ámbito del deterioro cognitivo, proponiendo un sistema de recopilación de datos que aborde los factores psicosociales de riesgo y protección.

Otro de los conjuntos de aportaciones destacados de nuestra investigación, son aquellos artículos que abordan la reducción del aislamiento social, habilidades sociales y respuestas emocionales, tanto de personas usuarias como del propio conjunto de trabajadores/as (Tarantino et al., 2023^Ref32; Welch et al., 2023[ref37]). Para mitigar las consecuencias del COVID-19, en el ámbito de las personas mayores Welch et al. (2023)[ref37] han desarrollado intervenciones digitales, como chatbots y robots asistenciales, para reducir el aislamiento social en adultos mayores durante la pandemia. En paralelo, Tarantino et al. (2023)^Ref32 han propuesto el uso de un "gemelo digital" para personas con autismo, creando un entorno seguro para el desarrollo de habilidades sociales. Esta última propuesta se conecta con la idea de Chan y Li (2023)^Ref7 y otros autores (Wang et al., 2009[ref36]; Wang y Cheung, 2011^Ref35), que inciden en el uso de la IA para entrenar y apoyar al ser humano, con la diferencia que en lugar de ir dirigido las personas usuarias como en el caso de Tarantino et al. (2023)^Ref32, estaría centrado en el grupo de profesionales.

De esta forma, Chan y Li (2023)^Ref7 proponen la implementación de un Chatbox para asistir y entrenar a los equipos de trabajo social en sus interacciones diarias, mejorando así sus habilidades y eficiencia en el trabajo. Mientras que Wang et al. (2009)[ref36] investiga el uso de narrativas computacionales en organizaciones de servicios sociales de salud mental, con un enfoque en la formación de profesionales en la toma de decisiones y la creación de mapas conceptuales, facilitando la comprensión y el análisis en este ámbito. En este mismo plano, Wang y Cheung (2011)^Ref35 apoyan la toma de decisiones en sanidad y servicios sociales mediante tecnologías de lenguaje computacional. Su investigación se basa en el análisis de narrativas no estructuradas, como registros históricos y diagnósticos, utilizando algoritmos de razonamiento para proponer alternativas que mejoren la calidad de la resolución de casos en una empresa de servicios sociales en Hong Kong.

3.3. Aspectos negativos de las experiencias

A la hora de analizar los aspectos negativos que los/as autoras de nuestro estudio señalan sobre la aplicación de la IA a los Servicios Sociales, tal como refiere la Tabla 4 podemos diferenciar: Cuestiones éticas y de aplicación de la herramienta; Deshumanización de los procesos y perpetuación de sesgos de exclusión; y referidos al funcionamiento de estas herramientas, problemas de adaptabilidad a determinados contextos y posibles dificultades de implementación relacionadas con algoritmos, reconocimiento y análisis de situaciones.

Dentro de los principales aspectos negativos que estas experiencias destacan conforme a la implementación de la IA a los servicios sociales, diversos autores apuntan a cuestiones éticas (Crooks et al., 2024^Ref9; Hasenauer et al., 2022^Ref17; Robila y Robila, 2020^Ref28; Tarantino et al., 2023^Ref32). Concretamente Robila y Robila (2020)^Ref28 advierten que la implementación de IA en ciencias sociales puede enfrentar resistencia debido a cuestiones éticas y de aplicación. Algunas de estas cuestiones éticas son señaladas por Hasenauer et al. (2022)^Ref17 cuando indican que las herramientas digitales pueden reemplazar parcialmente al personal humano de manera efectiva.

Por su parte, otros/as autores/as comentan los dilemas éticos de sus aplicaciones concretas, en este sentido Crooks et al. (2024)^Ref9, advierten que la tecnología y la IA podrían permitir a los abusadores encontrar nuevas formas de controlar a las víctimas, a pesar de los esfuerzos por detectar abusos. Del mismo modo, Tarantino et al. (2023)^Ref32 identifican tres posibles problemas con su herramienta de gemelo digital: Sustitución de la vida social, discriminación entre quienes tienen y no tienen acceso a la tecnología, y preocupaciones sobre la privacidad. Estas cuestiones éticas suelen encontrase muy relacionadas con las de deshumanización y perpetuación de sesgos que señalan (Sleep, 2022^Ref31; Ranerup y Henriksen, 2020^Ref25; Tyrväinen, et al., 2018^Ref33).

Un aspecto negativo recurrente en la integración de la tecnología en los servicios sociales es la preocupación por la deshumanización, ya que una dependencia excesiva en herramientas automatizadas podría reducir la calidad de las interacciones humanas, esenciales en el Trabajo Social. Además, los algoritmos de IA corren el riesgo de perpetuar sesgos existentes, lo que puede llevar a decisiones injustas o discriminatorias en la prestación de servicios (Sleep, 2022)^Ref31.

Tyrväinen et al. (2018)^Ref33 señalan que una dificultad importante es la falta de datos de calidad en los registros médicos y en las infraestructuras que los sostienen, lo que limita el intercambio de prácticas efectivas. Además, la implementación de registros de lenguaje natural con diversas especificidades y orígenes presenta desafíos adicionales. Ranerup y Henriksen (2020)^Ref25 añaden que, a pesar de los avances en los procesos automatizados de toma de decisiones, todavía es necesaria la supervisión de profesionales de la asistencia social para manejar los casos complejos.

Esta necesidad de supervisión humana se encuentra conectada con otro de los principales aspectos negativos señalados por los/as investigadores/as (Caddle et al., 2023^Ref5; Chan y Li, 2023^Ref7; Sleep, 2022^Ref31; Osorio et al., 2017^Ref23; Vieria et al, 2022^Ref34; Yin, 2021^Ref38; Welch et al., 2023[ref37]) que son los problemas adaptabilidad y posibles dificultades de implementación que puedan tener estas herramientas. En el estudio de Welch et al. (2023)[ref37] destacan problemas con la adaptabilidad y accesibilidad de las tecnologías digitales para adultos mayores, lo que limita su efectividad. Por su parte Osorio et al. (2017)^Ref23 enfrentan dificultades con la implementación de modelos matemáticos complejos, especialmente en instituciones con pocos recursos, y la cobertura parcial de políticas puede afectar la calidad del cuidado.

Respecto a los posibles errores de estas aplicaciones Chan y Li (2023)^Ref7 señalan que los chatbots a veces fallan en identificar las prioridades de las personas usuarias, especialmente al cambiar de tema Sleep (2022)^Ref31 agrega que los fallos en los algoritmos de decisión automática afectan principalmente a las personas usuarias más vulnerables, Yin (2021)^Ref38 la necesidad de seguir optimizando y ajustado el sistema, por cuestiones como las indicadas por Caddle et al. (2023)^Ref5 de falta de flexibilidad para discernir entre situaciones peligrosas y no peligrosas. Todo esto nos lleva a lo que indica Vieira et al. (2020)^Ref34 sobre la continuidad de la necesidad de un componente humano para resolver problemas.

4. Discusión

El propósito de nuestra investigación es evaluar de manera exhaustiva tanto las contribuciones como las limitaciones de la IA en el ámbito de los servicios sociales. Entre los hallazgos más destacados, se observa un notable incremento en la cantidad de estudios sobre esta temática a partir del año 2020, con un crecimiento particularmente significativo durante 2022. Este auge está en consonancia con lo señalado por Muñoz et al. (2020)^Ref22, quienes documentaron un aumento en la adopción de herramientas tecnológicas en este campo, reflejado también por Minguijon y Serrano-Martínez (2022)^Ref21. Este incremento en la actividad investigadora refleja un interés creciente por entender y optimizar la implementación de la IA en los servicios sociales, destacando el elevado número de estudios encontrados en Europa y Asía. Este hallazgo se contrapone a la posición general que Europa ocupa en el ámbito digital frente a otros continentes, en el cual América del Norte se posiciona como primera potencia (Serrano, 2024)^Ref30, ocupando un tercer puesto en nuestra investigación.

También es preciso indicar que este aumento en la actividad investigadora está estrechamente vinculado con otro hallazgo relevante: la mayoría de los estudios se centran en la mejora de la organización y la eficiencia de los procesos en los servicios sociales. Diversos autores han abordado esta temática, destacando cómo la implementación de IA puede optimizar las estructuras y procedimientos existentes (Osorio et al., 2017^Ref23; Ranerup y Henriksen, 2020^Ref25; Raya-Diez et al., 2021^Ref26; Robila y Robila, 2020^Ref28; Tyrväinen et al., 2018^Ref33; Vieira et al., 2022^Ref34; Yin, 2021^Ref38). Esta tendencia subraya el potencial transformador de la IA en la gestión de los servicios sociales, así como la necesidad de abordar las diversas facetas de su implementación para maximizar sus beneficios.

La relevancia de esta idea se refleja en la creciente sobrecarga que enfrentan los/as profesionales del sector, un problema enfatizado en los últimos años por la pandemia de COVID-19 (Ariza-Toledano y Ruiz-Olivares, 2023^Ref2; Muñoz-Moreno et al., 2020^Ref22). Esta sobrecarga está vinculada con la creciente necesidad de digitalización en los servicios sociales, con el objetivo de reducir la carga laboral y mejorar la eficiencia. La implementación de IA podría ofrecer soluciones efectivas para enfrentar esta sobrecarga, aliviando la presión sobre los profesionales y optimizando la gestión de recursos.

La necesidad de optimizar tareas también se refleja en diversas aplicaciones de la IA, como el apoyo en la evaluación, detección y prevención (Caddle et al., 2023^Ref5; Crooks et al., 2024^Ref9; García et al., 2022^Ref11), así como en la asistencia y entrenamiento de profesionales (Caddle et al., 2023^Ref5; Crooks et al., 2024^Ref9; García et al., 2022^Ref11) y el apoyo en la intervención con determinados colectivos (Tarantino et al., 2023^Ref32; Welch et al., 2023[ref37]). Estas aplicaciones subrayan el papel de la IA como herramienta complementaria que puede mejorar la eficacia de las intervenciones sin reemplazar el componente humano esencial.

A pesar de los avances, la implementación de la IA en los servicios sociales enfrenta desafíos importantes. Las investigaciones han identificado varias preocupaciones, como errores potenciales en las aplicaciones de IA debido a fallos de programación o la necesidad de diseños más flexibles (Caddle et al., 2023^Ref5; Chan y Li, 2023^Ref7; Sleep, 2022^Ref31; Osorio et al., 2017^Ref23; Vieira et al., 2022^Ref34; Yin, 2021^Ref38; Welch et al., 2023[ref37]). Estos problemas resaltan la importancia de una continua atención y mejora para garantizar la efectividad y fiabilidad de estas tecnologías.

Además, existe una creciente preocupación sobre la posibilidad de que la IA pueda sustituir al ser humano en el ámbito de los servicios sociales, un tema debatido en la literatura (Hasenauer et al., 2022)^Ref17. Sin embargo, la mayoría de los autores subrayan la importancia de ver la IA como una herramienta de asistencia y soporte en lugar de un reemplazo (Wang y Cheung, 2011^Ref35; Ranerup y Henriksen, 2020^Ref25). Esta perspectiva favorece una sinergia entre la optimización tecnológica y el componente humano, promoviendo una integración ética y efectiva de la IA en los servicios sociales (Ranerup y Henriksen, 2020)^Ref25.

A pesar de los avances significativos en la aplicación de la IA en los servicios sociales, esta revisión sistematizada revela varias limitaciones críticas. En primer lugar, muchos estudios se centran en contextos específicos, lo que limita la generalización de sus hallazgos (Osorio et al., 2017^Ref23; Yin, 2021^Ref38). La validación y adaptación de modelos en diferentes contextos geográficos y demográficos son esenciales para asegurar su aplicabilidad y efectividad en una variedad de entornos.

Otra limitación importante es la falta de integración de diversos tipos de datos y la opacidad de muchos modelos de IA, que dificulta su interpretación y validación por los profesionales (Robila y Robila, 2020)^Ref28. Esta falta de transparencia puede reducir la confianza y la adopción de estas tecnologías.

Asimismo, la implementación de IA enfrenta desafíos éticos y prácticos significativos, incluyendo la privacidad de los datos y la aceptación por parte de profesionales y usuarios (Gillingham, 2019^Ref12; Welch et al., 2023[ref37]). Es esencial desarrollar técnicas de IA más transparentes y explicables (Robila y Robila, 2020)^Ref28 y garantizar que las soluciones sean equitativas y accesibles.

La evaluación de la efectividad a largo plazo de las intervenciones digitales es otra área clave, con estudios longitudinales necesarios para determinar su impacto duradero y su capacidad para adaptarse a las necesidades cambiantes de las personas usuarias (Welch et al., 2023)[ref37]. Además, investigar aplicaciones emergentes de la IA, como la robótica social y la asistencia en salud mental, puede abrir nuevas oportunidades para mejorar los servicios sociales (Robila y Robila, 2020)^Ref28.

Finalmente, la participación activa de profesionales y personas usuarias en el diseño y seguimiento de soluciones basadas en IA es crucial para optimizar estas tecnologías (Yin, 2021)^Ref38. La retroalimentación continua ayudará a adaptar las soluciones a las necesidades cambiantes y mejorar la experiencia de las personas usuarias. Además, futuras investigaciones deberían enfocarse en desarrollar prototipos que favorezcan la economía, reduzcan costos y generen empleo (Tyrväinen et al., 2018)^Ref33, contribuyendo al bienestar de la ciudadanía y al desarrollo económico y social de las comunidades.

En resumen, los estudios analizados revelan la necesidad de aplicar la IA para optimizar los procesos de gestión, prevención, detección e intervención en los servicios sociales. Aunque se han identificado varios aspectos negativos, como dilemas éticos y errores en el diseño, la IA debe considerarse como un complemento que apoye a los equipos profesionales, manteniendo siempre el componente humano esencial para abordar las limitaciones de estas herramientas y mejorar el servicio.

1) Abeliuk, A., y Gutiérrez, C. (2021). Historia y evolución de la inteligencia artificial. Revista Bits de Ciencia, (21), 14-21.

2) Ariza-Toledano, L. B. y Ruiz-Olivares, R. (2023). Prosocial personality as a predictor of burnout in Spanish social workers. The British Journal of Social Work, 53(1), 368-385.https://doi.org/10.1093/bjsw/bcac13

3) Arksey, H., y O'Malley, L. (2005). Scoping studies: towards a methodological framework. International journal of social research methodology, 8(1), 19-32.https://doi.org/10.1080/1364557032000119616

4) Burnham, J. F. (2006). Scopus database: A review. Biomedical digital libraries, 3, 1- 8. https://doi.org/10.1186/1742-5581-3-1

5) Caddle, X. V., Naher, N., Miller, Z. P., Badillo-Urquiola, K., y Wisniewski, P. J. (2023). Duty to respond: the challenges social service providers face when charged with keeping youth safe online. Proceedings of the ACM on Human-Computer Interaction, 7(GROUP), 1-35.https://doi.org/10.1145/3567556

6) Caravaca-Sánchez, F., Barrera-Algarin, E., Pastor-Seller, E. y Sarasola-Sánchez-Serrano, L. (2019). Prevalence and Risk Factors Associated with Burnout Syndrome Among Social Work Professionals in Municipal Social Services in Spain. Global Social Work, 9(17), 89-109.https://doi.org/10.30827/tsg-gsw.v9i17.8284

7) Chan, C., y Li, F. (2023). Developing a natural language-based AI-chatbot for social work training: an illustrative case study. China Journal of Social Work, 16(2), 121- 136.https://doi.org/10.1080/17525098.2023.2176901

8) Codina, L. (2018). Sistemas de búsqueda y obtención de información: componentes y evolución. Anuario ThinkEPI. 2018; 12, 77-82. https://doi.org/10.3145/thinkepi.2018.06

9) Crooks, C. L., Talwalkar, S., Sharma, T., Arora, K., y Venkatesh, K. (2024). Designing Human-centered Artificial Intelligence to Assist with Domestic Abuse Recovery: Mitigating Technology Enabled Coercive Control. SoutheastCon 2024, 934-941.https://doi.org/10.1109/SoutheastCon52093.2024.10500080

10) Felip, M. R. A., Aguilar, M. J. R., Escrig, C. M., y Granell, E. G. (2023). Contribución de la Inteligencia Artificial a la Innovación, Planificación y Evaluación de los Servicios Sociales. En Actas del IX Congreso de la Red Española de Política Social (2023) (pp. 376- 383). Departamento de Bienestar Social. http://hdl.handle.net/10234/207213

11) García, C., Moreno, L., Alacreu, M., Muñoz, F. J., y Martínez, L. A. (2022). Addressing psychosocial factors in cognitive impairment screening from a holistic perspective: the DeCo-booklet methodology design and pilot study. International Journal of Environmental Research and Public Health, 19(19), 12911.https:// doi.org/10.3390/ijerph191912911

12) Gillingham, P. (2019). Can predictive algorithms assist decision‐making in social work with children and families?. Child abuse review, 28(2), 114-126.https://doi.org/10.1002/car.2547

13) González, M., y Martínez, D. (2020). Dilemas éticos en el escenario de la inteligencia artificial. Economía y sociedad, 25(57), 93-109.http://dx.doi.org/10.15359/eys.25-57.5

14) Gouch, D., Oliver, S., y Thomas, J. (2012). An Introduction to Systematics Reviews. Sage Publications.

15) Grant, M. J., y Booth, A. (2009). A typology of reviews: an analysis of 14 review types and associated methodologies. Health information & libraries journal, 26(2), 91-108.https://doi.org/10.1111/j.1471-1842.2009.00848.x

16) Hart, M. D. (2008). Informatics competency and development within the US nursing population workforce: a systematic literature review. Computers, Informatics, Nursing, 26(6), 320- 329.https://doi.org/10.1097/01.NCN.0000336462.94939.4c.

17) Hasenauer, R., Ehrenmueller, I., y Belviso, C. (2022). Living labs in social service institutions: an effective method to improve the ethical, reliable use of digital assistive robots to support social services. In 2022 Portland International Conference on Management of Engineering and Technology (PICMET) (pp. 1-9). IEEE.https://doi.org/10.23919/PICMET53225.2022.9882746

18) Ley Orgánica 3/2018. Protección de Datos Personales y garantía de los derechos digitales. 6 de diciembre. BOE Nº 294

19) Ley 9/2016. Servicios Sociales de Andalucía. 29 de diciembre. BOJA.Nº 248

20) Márquez, J. (2020). Inteligencia artificial y Big Data como soluciones frente a la COVID-19. Revista de bioética y derecho, (50), 315-331.https://doi.org/10.1344/rbd2020.50.31643

21) Minguijon, J. y Serrano-Martínez, C. (2022). La Inteligencia Artificial en los Servicios Sociales: estado de la cuestión y posibles desarrollos futuros. Cuadernos de Trabajo Social 35(2), 319- 329.https://dx.doi.org/10.5209/cuts.78747

22) Muñoz-Moreno, R., Chaves-Montero, A., Morilla-Luchena, A., Vázquez-Aguado, O. (2020). COVID-19 y servicios sociales en España. Plos One, 15(11). https://doi.org/10.1371/journal.pone.0241538

23) Osorio, G., Monteiro, T., Trilling, L., y Albert, F. (2017). Multi-criteria assignment policies to improve global effectiveness of medico-social service sector. Engineering applications of artificial intelligence, 61, 21-34.https://doi.org/10.1016/j.engappai.2017.02.009

24) Ramírez-Navarro, J.M. (2023). El reto de investigar e innovar en servicios sociales. En M. Fernández-Borrero, y O. Vázquez-Aguado, (Eds). Los servicios sociales ante el reto de la innovación. Participación, tecnologías e investigación (pp.17-32). Tirant lo blanch.

25) Ranerup, A., y Henriksen, H. Z. (2022). Digital discretion: Unpacking human and technological agency in automated decision making in Sweden’s social services. Social Science Computer Review, 40(2), 445-461.https://doi.org/10.1177/0894439320980434

26) Raya-Díez, E. R., Trujillo, C., y Carbonero, D. (2021). Using big data to manage social inclusion programs. The Journal Of Sociology & Social Welfare, 48(3).https://doi.org/10.15453/0191-5096.4556

27) Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

28) Robila, M., y Robila, S. A. (2020). Applications of artificial intelligence methodologies to behavioral and social sciences. Journal of child and family studies, 29, 2954-2966.https://doi.org/10.1007/s10826-019-01689-x

29) Sandelowski, M., Barroso, J., y Voils, C. I. (2007). Using qualitative metasummary to synthesize qualitative and quantitative descriptive findings. Research in nursing & health, 30(1), 99- 111.https://doi.org/10.1002/nur.20176

30) Serrano, G. L. (2024). Gobernanza dual de la inteligencia artificial. Retos tecnológicos y geopolíticos para la Unión Europea. In Anales de la Real Academia de Doctores, 9(1) 81-118.

31) Sleep, L. N. (2022). From Making Automated Decision Making Visible to Mapping the Unknowable Human: Counter-Mapping Automated Decision Making in Social Services in Australia. Qualitative Inquiry, 28(7), 848-858. https://doi.org/10.1177/10778004221096853

32) Tarantino, L., Attanasio, M., Valenti, M., y Mazza, M. (27-28 de octubre de 2023). Challenges in future all-round digitalized ASD care services. The 9th International Conference on Socio-Technical Perspectives in IS (STPIS’23). Portsmouth, UK.

33) Tyrväinen, P., Silvennoinen, M., Talvitie-Lamberg, K., Ala-Kitula, A., y Kuoremäki, R. (2018, May). Identifying opportunities for AI applications in healthcare—Renewing the national healthcare and social services. In 2018 IEEE 6th International Conference on Serious Games and Applications for Health (SeGAH) IEEE.

34) Vieira, B., De Armas, J., y Ramalhinho, H. (2022). Optimizing an integrated home care problem: A heuristic-based decision- support system. Engineering Applications of Artificial Intelligence, 114, 105062.https://doi.org/10.1016/j.engappai.2022.105062

35) Wang, W. M., y Cheung, C. F. (2011). A narrative-based reasoning with applications in decision support for social service organizations. Expert systems with applications, 38(4), 3336- 3345.https://doi.org/10.1016/j.eswa.2010.08.118

38) Yin, H. (2021). Role of artificial intelligence machine learning in deepening the internet plus social work service. Mathematical problems in engineering, 2021(1), 6915568.https://doi.org/10.1155/2021/6915568

Vallejo-Andrada, Ana

Ana Vallejo-Andrada es doctora en ciencias sociales por la universidad Pablo de Olavide. Cuenta con experiencia como trabajadora social y es profesora las universidades Pablo de Olavide y Universidad de Huelva. Su línea de investigación principal se centra en salud laboral de trabajadores/as sociales y en el en el estudio de los servicios sociales.

Martí-García, Susana

Susana Martí-García es doctora por la Universidad de Huelva (2021). Desde 2021 es profesora en el Departamento de Sociología, Trabajo Social y Salud Pública, Área de Trabajo Social y Servicios Sociales de la Unviversidad de Huelva. Sus líneas de trabajo e investigación se enfocan en el Trabajo Social, los Servicios Sociales (Equipos de Tratamiento Familiar) y la toma de decisiones profesionales en el ámbito de la intervención con familias, infancia y adolescencia. 

Gómez-Rasco, Teresa

Teresa Gómez-Rasco es investigadora predoctoral con máster en Estudios de Género, Identidades y Ciudadanía en la Universidad de Huelva. Desde 2024 es contratada predoctoral en el marco de la Estrategia de Política de Investigación y Transferencia 2023 en la Universidad de Huelva y profesora en la misma entidad desde 2023. Su principal línea de investigación se centra en el estudio de las competencias digitales en profesionales de los servicios sociales con perspectiva interseccional.

Ferri-Fuentevilla, Elena

Elena Ferri-Fuentevilla es doctora por la Universidad Pablo de Olavide en 2013. Es profesora de la Universidad de Huelva desde 2022. Su investigación principal se centra en el estudio de los servicios sociales comunitarios como institución en relación con la tecnología y el análisis del impacto socioeconómico tras la COVID-19. Además, investiga la mejora del informe social como documento científico, aportando enfoques analíticos como la categorización del daño social, todo ello desde una perspectiva transversal de género, centrada en colectivos vulnerables.