Fault-Tolerant Control of ROV Thrusters by using SMC+TD3

Authors

DOI:

https://doi.org/10.17979/ja-cea.2026.47.13690

Keywords:

Autonomous underwater vehicles, Control architectures in marine systems, Fault-tolerant control, Reinforcement learning control, Sliding mode control

Abstract

This work examines a fault-tolerant control architecture for thruster faults in a BlueROV2-type ROV. The proposed architecture combines a sliding mode control strategy (SMC) with a deep reinforcement learning controller, specifically based on Twin Delayed Deep Deterministic Policy Gradient (TD3). In this design, the SMC provides a robust dynamic control action that remains active at all times, continuously compensating for environmental disturbances, modelling inaccuracies, and other sources of uncertainty. The TD3 agent, once properly trained, provides an additional targeted correction aimed at mitigating the effects of unexpected losses of thruster efficiency. The simulation-based validation shows that the proposed approach reduces yaw error under horizontal thruster faults, while keeping roll and pitch bounded and preserving the nominal SMC behaviour under vertical thruster faults.

Author Biographies

  • José Ramón Llata García, Universidad de Cantabria

    Profesor Titular de Universidad en el área de Ingeniería de Sistemas y Automática en la Universidad de Cantabria (UC), pertenece al Departamento de Tecnología Electrónica e Ingeniería de Sistemas y Automática (TEISA), y ha impartido asignaturas relacionadas con el control automático y la ingeniería de sistemas desde 1993 en la UC (España), así como en la Universidad de La Laguna (España). Desde el inicio de su actividad investigadora, ha utilizado diversas técnicas de inteligencia artificial para el reconocimiento de objetos y la reconstrucción 3D mediante información ultrasónica. Ha realizado estancias de investigación en el Control Systems Centre de la universidad UMIST, , donde impartió docencia en el Master de Control de Sistemas y realizó tareas de investigación en control adaptativo,  en la City University of London, donde trabajó en control dinámico para la estabilización de aerogeneradores flotantes. También cuenta con experiencia en investigación en visión por computador, especialmente en visión 3D y en el alineamiento de nubes de puntos 3D para aplicaciones robóticas. Su experiencia en robótica colaborativa en entornos industriales, basada en visión por computador e inteligencia artificial, dio lugar a una colaboración con la Universidad de Gante y a la publicación de un capítulo de libro conjunta relacionado con la seguridad activa en robótica. Ha participado en diversos proyectos de investigación vinculados a la seguridad en la conducción de vehículos de pasajeros, en la reducción de cuellos de botella en entornos robóticos, en el uso de herramientas software para la generación de gemelos virtuales mecatrónicos, dentro del marco de la Industria 4.0, de entornos industriales de fabricación robotizada, liderando en esta línea proyectos de formación internacional con Dassault Systèmes, una de las empresas más importantes a nivel mundial en CAD/CAM/CAE. Actualmente, trabaja en el control dinámico y control coordinado de vehículos subacuáticos autónomos basándose en inteligencia artificial. Es autor de numerosas publicaciones en congresos y revistas nacionales e internacionales especializadas.

  • José Joaquín Sainz Gutiérrez, Universidad de Cantabria

    El Dr. José Joaquín Sainz Gutiérrez ha cursado y obtenido en la Universidad de Cantabria el Grado en Ingeniería en Tecnologías Industriales y el Master Universitario en Ingeniería Industrial. A continuación, comienza su actividad investigadora en el Departamento de Tecnología Electrónica Ingeniería de Sistemas y Automática (TEISA) de la Universidad de Cantabria al participar como investigador en el proyecto: Desarrollo de un sistema autónomo para el fondeo de estructuras para obras marítimas-SAFE. En el 2023 obtuvo el doctorado por la Universidad de Cantabria dentro del Programa de Doctorado en Ingeniería Industrial: Tecnologías de Diseño y Producción Industrial recibiendo la mención Cum Laude y la mención internacional, al haber realizado una estancia predoctoral en la University of Portsmouth (UK) en 2022.

    Una vez finalizado el doctorado, ha continuado participando en proyectos de investigación en los que se han empleado diferentes técnicas de control clásicas y avanzadas relacionadas con el posicionamiento dinámico de vehículos operados por control remoto (ROV). En 2024 ha realizado una estancia postdoctoral en la University of Portsmouth (UK) donde se han realizado trabajos de investigación relacionados con el control de ROVs y la visión submarina. En noviembre de 2024 se incorpora al área de Ingeniería de Sistemas y Automática del departamento TEISA de la Universidad de Cantabria como Profesor Ayudante Doctor. Los resultados del trabajo de investigación realizado durante su trayectoria investigadora se evidencian a través de la coautoría de diversas publicaciones en revistas de primer nivel (JCR) y su asistencia a congresos nacionales e internacionales. 

  • Elias Revestido Herrero, Universidad de Cantabria

    Elías Revestido Herrero es Profesor Titular de Universidad en el Departamento de Tecnología Electrónica e Ingeniería de Sistemas de la Universidad de Cantabria, donde imparte docencia desde 2003. Realizó parte de su formación doctoral en el ARC Center for Complex Dynamic Systems and Control (CDSC) de la University of Newcastle (Australia), bajo la supervisión del Dr. Tristan Pérez (dos estancias predoctorales de 6 y 3 meses), y posteriormente llevó a cabo una estancia posdoctoral en la City University London (Reino Unido).

    Ha participado en proyectos de investigación nacionales e internacionales, es autor de 19 publicaciones en revistas indexadas y ha contribuido en más de 50 congresos científicos. Su investigación se centra en la identificación de sistemas y la ingeniería de control aplicada a vehículos marinos, incluyendo trabajos sobre laboratorios marinos remotos.

    Ha sido secretario del capítulo español de la IEEE Oceanic Engineering Society (OES), dirige el grupo de Automática de Robótica Marítima en la Universidad de Cantabria, es miembro del Comité Español de Automática y forma parte del grupo de expertos evaluadores de proyectos de la Agencia Estatal de Investigación.

    Además, es presidente del grupo de trabajo ARMAR (Automática y Robótica Militar) dentro del Clúster de la Industria de Defensa Española, donde organiza activamente eventos técnicos y científicos conjuntos para fomentar la colaboración entre la academia y la industria.

  • Carlos Torre Ferrero, Universidad de Cantabria

    Doctor por la Universidad de Cantabria desde 2010, con una estancia predoctoral en 2007 en el Perception Group del INRIA-RHÔNE ALPES (Francia). Su trayectoria científica se ha consolidado en el ámbito de la Ingeniería de Sistemas y Automática, con una especialización en el desarrollo de sistemas avanzados de visión artificial y fusión sensorial, destacando por la implementación de algoritmos de percepción inteligente y control en sistemas autónomos. En este sentido, ha participado activamente en proyectos de investigación relacionados con vehículos autónomos (con una estancia postdoctoral en 2014 en el Departamento de Cibernética de la Systems Engineering School de la Universidad de Reading, UK), abordando los desafíos específicos tanto de entornos terrestres (detección de obstáculos mediante visión monocular y seguimiento de waypoints) como de entornos submarinos (navegación y procesamiento sensorial en condiciones críticas).

  • Luciano Alonso Rentería, Universidad de Cantabria

    Luciano Alonso Rentería es Profesor Contratado Doctor en el Departamento de Tecnología Electrónica e Ingeniería de Sistemas y Automática de la Universidad de Cantabria, donde imparte docencia desde 1999. Es licenciado en Ciencias Físicas (Electrónica) e Ingeniero Técnico Industrial (Electrónica Industrial), así como Doctor por la Universidad de Cantabria. Ha realizado una estancia de investigación de cinco meses en el Centro de Automática y Robótica (UPM-CSIC), realizando tareas de investigación sobre vehículos autónomos en el marco de su doctorado. Su investigación se centra en el modelado y control de sistemas, aplicados a vehículos autónomos terrestres y submarinos. Es miembro del Comité Español de Automática. Ha participado en varios proyectos de investigación, y es autor de numerosas publicaciones en revistas y contribuciones a congresos científicos. 

  • María Sandra Robla Gómez, Universidad de Cantabria

    Ingeniera en Automática y Electrónica Industrial por la Universidad de Valladolid y Doctora por la Universidad de Cantabria (UC), en 2013. En 2019, obtuvo el título de Máster Universitario del Profesorado de Educación Secundaria Obligatoria y Bachillerato, Formación Profesional y Enseñanza de Idiomas, Especialidad Tecnología e Informática, por la Universidad Internacional de la Rioja. Comenzó su carrera docente en 2003 en el Grupo de Ingeniería de Control (GIC) del Departamento de Tecnología Electrónica, Ingeniería de Sistemas y Automática (TEISA) de la UC. Desde octubre del 2023 es Contratado Doctor en el Departamento TEISA, habiendo pasado, recientemente, a desarrollar su labor investigadora en el grupo de investigación de Automática y Robótica Marina (AUROMAR), perteneciente, también, al Departamento TEISA. Ha participado en diversos Cursos de Verano de la Universidad de Cantabria relacionados con Visión Artificial, Autómatas Programables, Fundamentos, Aplicaciones y Tendencias de la Robótica Industria, y Robótica y programación como recursos didácticos en el aula de primaria.  Ha participado en 13 proyectos competitivos privados, autonómicos y competitivos nacionales públicos. Como resultado de las tareas de investigación ha presentado 8 contribuciones a congresos nacionales y 22 contribuciones a congresos internacionales, así como publicaciones en revistas nacionales e internacionales de impacto y alto número de citaciones (en algún caso más de 800 citas).

References

Benzon, M. V., Sørensen, F. F., Uth, E. T., Jouffroy, J., Liniger, J. y Pedersen, S. (2022). An open-source benchmark simulator: Control of a BlueROV2 underwater robot. Journal of Marine Science and Engineering, vol. 10, no. 12, 1898.

Edwards, C. y Spurgeon, S. K. (1998). Sliding mode control: Theory and applications. Taylor & Francis.

Fossen, T. I. (2021). Handbook of marine craft hydrodynamics and motion control (2nd ed.). John Wiley & Sons.

Goodfellow, I., Bengio, Y. y Courville, A. (2016). Deep learning. MIT Press.

Hosseinnajad, A. y Loueipour, M. (2023). Fault tolerant control system for an ROV based on a novel integral sliding mode control and a state and fault observer in the presence of thruster limitations. Ocean Engineering, vol. 280, 114687. https://doi.org/10.1016/j.oceaneng.2023.114687

Lillicrap, T. P., Hunt, J. J., Pritzel, A., Heess, N., Erez, T., Tassa, Y., Silver, D. y Wierstra, D. (2016). Continuous control with deep reinforcement learning. International Conference on Learning Representations.

Liu, M., Yu, S. y Xu, H. (2025). Fault-Tolerant Control of ROV Based on HJI Integral Sliding Mode. En L. Liu, Y. Niu, W. Fu, y Y. Qu (Eds.), Proceedings of 4th 2024 International Conference on Autonomous Unmanned Systems (4th ICAUS 2024), Springer Nature Singapore, pp. 232–241.

Sainz, J. J., Revestido, E., Llata, J. R., & Velasco, F. J. (2023). Auto-tuning of Non-Linear Model Predictive Controllers for a Remote Operated Vehicle. OCEANS 2023 -- Limerick. https://doi.org/10.1109/OCEANSLimerick52467.2023.10244375

Sainz, J. J., Becerra, V., Revestido, E., Llata, J. R., Alonso, L., & Torre, C. (2024). Adaptive ROV controller for monitoring marine structures. Jornadas de Automatica, 45. https://doi.org/10.17979/ja-cea.2024.45.10807

Sutton, R. S. y Barto, A. G. (2018). Reinforcement learning: An introduction (2nd ed.). MIT Press.

Yin, Z., Gan, W., Ou, J. y Wang, Z. (2024). Fault-Tolerant Control of Remotely Operated Vehicle Thrusters Based on the Dung Beetle Optimizer. 2024 7th International Conference on Advanced Algorithms and Control Engineering (ICAACE), pp. 1186–1189. https://doi.org/10.1109/ICAACE61206.2024.10548829

Downloads

Published

2026-09-01

Issue

Section

Automática Marítima