Défense : quelle coopération humain-IA sur les bâtiments de combat ?

L’intelligence arti­fi­cielle est déjà à l’œuvre à bord des bâti­ments de com­bat, mais son rôle va se déve­lop­per consi­dé­ra­ble­ment et modi­fier les condi­tions de tra­vail des équi­pages, tant à la mer qu’à terre. Il sera néces­saire que ce déve­lop­pe­ment se fasse avec et non contre les humains, dont le rôle res­te­ra essen­tiel dans l’action.

L’intelligence arti­fi­cielle répond à plu­sieurs enjeux clés pour les marines de com­bat. Elle four­nit notam­ment un effet de levier sur trois axes principaux.

Trois applications navales de l’IA

Elle per­met d’abord de dis­si­per le « brouillard de la guerre » grâce à des capa­ci­tés Intel­li­gence Sur­veillance Recon­nais­sance (ISR) aug­men­tées. La réponse tech­no­lo­gique au besoin de ren­sei­gne­ment consiste à déve­lop­per des cap­teurs capables de col­lec­ter un maxi­mum de don­nées, mais sur­tout à les asso­cier à des solu­tions d’intelligence arti­fi­cielle, à même d’exploiter cette masse crois­sante de don­nées. L’IA apporte ici ses facul­tés de trai­te­ment pour struc­tu­rer les don­nées col­lec­tées et en infé­rer des règles tactiques.

L’IA per­met aus­si, à terme, de confé­rer de la masse et une élon­ga­tion du rayon d’action des forces navales grâce aux pla­te­formes auto­nomes. Par­mi ses champs d’application, l’intelligence arti­fi­cielle compte l’auto­no­mie déci­sion­nelle. Les pla­te­formes auto­nomes (cf. le concept de man­ned – unman­ned team de l’US Navy) apportent un com­plé­ment utile à moindre coût aux flottes occi­den­tales qui ont vu leur volume diminuer.

Enfin, l’IA per­met d’accélérer la prise de déci­sion tac­tique grâce à la fusion de l’information intel­li­gente, à son inter­pré­ta­tion et à une pré­sen­ta­tion de l’information per­ti­nente au pro­fit du com­man­de­ment. La hausse dras­tique des don­nées mani­pu­lées fait cou­rir le risque d’une sur­charge infor­ma­tion­nelle des équipes de quart. La situa­tion tac­tique peut deve­nir de moins en moins com­pré­hen­sible. L’IA judi­cieu­se­ment dis­tri­buée aux niveaux force navale, navires, sys­tèmes et équi­pe­ments per­met de miti­ger ce foi­son­ne­ment potentiel.

REPÈRES

« Don­nées, entraî­ne­ment, modèles, pré­dic­tions » sont quatre mots majeurs issus de la mise en œuvre de l’IA dans l’industrie. Il n’est pas sur­pre­nant que l’IA ait toute sa place à bord d’un bâti­ment de guerre, puisque ces quatre termes reflètent aus­si le fonc­tion­ne­ment type d’un équi­page de com­bat. D’abord, les don­nées : le cycle de vie des bâti­ments de com­bat, en opé­ra­tions et en période de main­te­nance, engendre des flux très volu­mi­neux de don­nées trai­tés, ana­ly­sés, syn­thé­ti­sés et archi­vés par l’équipage. L’équipage s’entraîne à faire face à des situa­tions tou­jours plus com­plexes et dis­pa­rates. Ses modèles sont ses tac­tiques ou doc­trines d’emploi. La pré­dic­tion (du mou­ve­ment des pistes, des risques de détec­tion par les menaces, des por­tées res­pec­tives des armes…) se défi­nit comme l’activité inces­sante du cen­tral opé­ra­tions d’une fré­gate ou d’un sous-marin.

Le paradoxe de l’IA dans le naval militaire

Cepen­dant, quand l’IA embarque sur un bâti­ment de guerre « aux côtés » de l’équipage, des ques­tions spé­ci­fiques se posent. Le but recher­ché de la plu­part des appli­ca­tions civiles de l’IA est de mettre à dis­po­si­tion les sys­tèmes « les plus opti­mi­sés pos­sible ». Le recours à des fonc­tions de sou­tien uti­li­sa­teurs est très sou­vent envisagé.

Les appli­ca­tions navales, quant à elles, néces­sitent pour l’équipage la maî­trise en tout temps et en tous lieux du mode d’opération des fonc­tions dotées d’IA. Elles requièrent éga­le­ment les agis­se­ments maî­tri­sés des sys­tèmes « dro­ni­sés » mis en œuvre depuis le navire, au risque de les rendre légè­re­ment moins per­for­mants et moins auto­nomes en rai­son de la doc­trine à res­pec­ter. Le marin doit pou­voir à tout ins­tant com­prendre la situa­tion et la maî­tri­ser avec un très faible pré­avis (ava­rie au com­bat, for­tune de mer, évé­ne­ment météo, déci­sion poli­tique…), sans mettre en dan­ger le col­lec­tif de l’équipage, ni obé­rer la pour­suite de la mis­sion ou fra­gi­li­ser la stra­té­gie d’ensemble.

Il y a donc un para­doxe de l’IA dans le naval mili­taire. L’IA embarque au sein des sys­tèmes ou via les drones asso­ciés au navire, pour accroître signi­fi­ca­ti­ve­ment les chances de suc­cès de la mis­sion. Elle est néces­sai­re­ment « sur­veillée » par un opé­ra­teur, local ou à dis­tance. L’action de cet opé­ra­teur peut être spo­ra­dique, depuis un shel­ter ou à bord. Il doit véri­fier que l’autonomie, confé­rée et ajus­tée dyna­mi­que­ment, reste dans le champ des pos­sibles et n’altère pas la per­for­mance de l’ensemble hommes + navires + sys­tèmes + IA.

Des solutions au-delà des capacités humaines

L’IA per­met de sou­la­ger les équipes de quart. Par consé­quent, elles se foca­lisent sur les tâches de plus haut niveau, gèrent l’inattendu et managent l’incertain. Par exemple, la pré­vi­sion avan­cée des mou­ve­ments de pla­te­forme est une brique tech­no­lo­gique essen­tielle pour les fré­gates. Elle per­met à l’équipage de « gagner un état de mer » pour la mise en œuvre des héli­co­ptères. L’IA aug­mente les capa­ci­tés de l’équipage et met à dis­po­si­tion du com­man­dant des solu­tions inen­vi­sa­geables par l’homme dans un pas de temps rai­son­nable ou avec une fré­quence de rafraî­chis­se­ment suf­fi­sante (risque de satu­ra­tion des équipes).

Pre­nons un exemple : com­ment opti­mi­ser de façon ration­nelle la tra­jec­toire d’un sous-marin alors qu’il évo­lue dans un fais­ceau de menaces mul­tiples et réelles, mal connues ou sup­po­sées ? Un sous-marin détecte la pré­sence de menaces (bâti­ments de sur­face, sous-marins, héli­co­ptères, drones…). Néan­moins, ces « brui­teurs » ne l’ont peut-être pas encore détec­té. L’IA pla­ni­fie la meilleure tra­jec­toire avec pour objec­tif d’atteindre le plus rapi­de­ment pos­sible un point d’échappement du théâtre dan­ge­reux. Elle pri­vi­lé­gie les tra­jec­toires qui mini­misent le risque pour le sous-marin d’être contre-détec­té par les bruiteurs.

Dans ce cas, on passe d’une com­bi­nai­son de signaux opé­ra­tion­nels mis à dis­po­si­tion par le sys­tème de com­bat, asso­ciée à l’intuition et l’expérience du com­man­dant, à l’exploration métho­dique de mil­liers de pos­si­bi­li­tés tac­tiques recom­man­dant in fine la « meilleure » route. Il s’agit d’une approche simi­laire à celle que Deep Blue pre­nait dès 1997 pour vaincre Gary Kasparov !

Des drones océaniques

Les bâti­ments de com­bat modernes embarquent déjà de nom­breuses fonc­tions auto­ma­ti­sées pour réa­li­ser leurs mis­sions, notam­ment via les Com­bat Mana­ge­ment Sys­tems, les Inte­gra­ted Plat­form Mana­ge­ment Sys­tems ou les « logi­ciels mis­sions » des tor­pilles. Les pre­miers navires dotés d’une véri­table archi­tec­ture numé­rique sont en construc­tion avan­cée. Sur cette base, il est pos­sible de pré­dire un conti­nuum rapide d’évolutions fonc­tion­nelles et orga­ni­sa­tion­nelles en par­tant de tels navires, pour conce­voir in fine des drones océa­niques de grande taille, véri­tables navires sans équi­page. Ils seront dotés d’une capa­ci­té déci­sion­nelle leur per­met­tant d’accompagner une force navale et de réa­li­ser, en propre, des mis­sions auto­nomes avec un contrôle par un sys­tème embar­qué indé­pen­dant, sous super­vi­sion humaine uni­que­ment (et non via une simple télé­opé­ra­tion), cette super­vi­sion n’étant pas néces­sai­re­ment en temps réel.

“L’IA établit un nouveau rapport entre le marin et les drones.”

Et lorsque le navire consi­dé­ré au sein de la force navale n’embarque aucun humain à bord et doit faire preuve d’autonomie ? En mer, la télé­opé­ra­tion n’est pas tou­jours la solu­tion la plus réa­liste au contrôle d’un drone, quelle que soit sa taille. En effet, la mis­sion des véhi­cules sous-marins peut s’étaler sur plu­sieurs jours, com­pre­nant des pos­si­bi­li­tés d’agissement mul­tiples et des com­mu­ni­ca­tions sous-marines spo­ra­diques au débit limi­té par les lois de la physique.

Il en est de même pour des mobiles de sur­face, puisqu’il n’est pas tou­jours garan­ti d’avoir une liai­son de com­mu­ni­ca­tion hert­zienne de qua­li­té suf­fi­sante. De ce fait, l’IA éta­blit un nou­veau rap­port entre le marin et les drones. L’humain a le pri­vi­lège de la pla­ni­fi­ca­tion de la mis­sion et de la com­mu­ni­ca­tion aux drones du sens de cette mis­sion, soit la maî­trise de l’intentionnalité. De son côté, l’IA ajuste le com­por­te­ment des drones voire des déci­sions qui leur sont délé­guées afin de réa­li­ser au mieux la mis­sion confiée, soit l’adaptabilité. Dans les chaînes fonc­tion­nelles liant cap­teurs, trai­te­ments, moyens de com­mu­ni­ca­tion, action­neurs et charges utiles, l’IA embar­quée sur les drones choi­sit à tout moment les chaînes et les actions réa­li­sées par celles-ci. Elle a pour objec­tif de tendre le mieux pos­sible vers le sens de la mis­sion précitée.

Apprendre à faire confiance à l’IA

Ce nou­veau rap­port entre l’IA et l’opérateur, ou son com­man­de­ment, se construit dans la durée. Au-delà des biais intrin­sèques liés à l’IA, le pre­mier fac­teur clé de suc­cès dans l’intégration de l’IA est la com­pré­hen­sion et la lisi­bi­li­té par les marins des fonc­tions sous-trai­tées. La com­pré­hen­sion et la lisi­bi­li­té seront accrues par l’emploi sys­té­ma­tique de « jumeaux numé­riques » qui per­mettent « d’entretenir l’estime », au sens de la navi­ga­tion, lorsque l’opérateur et le drone ne sont pas en contact, ou de dia­lo­guer avec l’équipage vir­tuel du drone lorsque le contact est établi.

La confiance néces­site cette lisi­bi­li­té pré­ci­tée. La confiance n’excluant pas le contrôle, le second fac­teur clé de suc­cès consiste à enca­drer les agis­se­ments du drone par un super­vi­seur embar­qué, fon­dé sur des règles simples pro­gram­mées en tech­no­lo­gies sûres. Il consiste aus­si à robus­ti­fier la capa­ci­té pour l’équipage de reprendre la main, quelles que soient les cir­cons­tances. De telles fonc­tions ont déjà été vali­dées à bord de torpilles.

Lire aus­si : Défi­nir le cadre nor­ma­tif d’une IA de confiance dans les entreprises

Cepen­dant, il n’est pas tou­jours aisé d’intégrer des réseaux de neu­rones dans les pro­ces­sus de déci­sions des sys­tèmes navals embar­qués. D’abord, il est néces­saire de se doter d’infrastructures et d’un grand nombre de don­nées dûment « éti­que­tées », utiles dans la pro­gres­sion des réseaux. Ensuite, cer­tains sys­tèmes comme la recon­nais­sance acous­tique ne sont pas tes­tables sans confron­ta­tion au monde mari­time réel ou sans moyens de simu­la­tion qua­li­fiés repré­sen­ta­tifs, de la même façon que pour l’apprentissage en deep lear­ning des algo­rithmes des véhi­cules ter­restres. Comme pour le véhi­cule ter­restre auto­nome, le pro­ces­sus d’appropriation de l’IA par les équi­pages pren­dra du temps.

“Les équipages à la mer apprendront progressivement à faire confiance à l’IA”

Nous sommes convain­cus que les équi­pages à la mer appren­dront pro­gres­si­ve­ment à faire confiance à l’IA, si tant est qu’ils auront été, très tôt et judi­cieu­se­ment, asso­ciés à la concep­tion des navires et véhi­cules qui embarquent ces tech­no­lo­gies. Ce par­te­na­riat bien conçu consti­tue réel­le­ment l’un des devoirs pri­mor­diaux des indus­triels du sec­teur naval de défense dans le domaine de l’IA.

L’IA au profit du soutien

Au-delà des fonc­tion­na­li­tés opé­ra­tion­nelles, béné­fi­ciant de l’IA embar­quée (opti­mi­sa­tion de rou­tage des navires, pro­po­si­tions de tra­jec­toires opé­ra­tion­nelles pour le com­man­dant, opti­mi­sa­tion éner­gé­tique, ana­lyse de signaux faibles cyber…), l’IA peut aus­si être uti­li­sée dans d’autres phases du cycle de vie des bâti­ments de com­bat, telles que le sou­tien en ser­vice ou au cours des périodes de main­te­nance. Pen­dant les opé­ra­tions navales ou en main­te­nance, les don­nées géné­rées en ser­vice nour­rissent des algo­rithmes per­met­tant de réduire les coûts du sou­tien et d’espacer les plages de maintenance.

La mutua­li­sa­tion rai­son­née des data entre le concep­teur-construc­teur-main­te­neur, les équi­pe­men­tiers et l’exploitant (de bâti­ments de com­bat, de drones, de force navale), dans le cadre de pro­to­coles d’emploi agréés avec l’État, repré­sente un fac­teur essen­tiel de suc­cès sup­plé­men­taire. Le par­tage des rôles entre les auto­ma­tismes de recon­fi­gu­ra­tion des sys­tèmes, d’une part, et d’autre part la main­te­nance de niveau 1 effec­tuée par l’équipage se trouve ain­si sen­si­ble­ment modi­fié par l’IA.

Pour la main­te­nance à bord, l’IA rend ain­si acces­sible les concepts d’autoconfiguration, d’autoprotection, d’autodiagnostic et d’autoguérison. Pour la main­te­nance à terre, il est aujourd’hui pos­sible, depuis un « por­tail des don­nées et des ser­vices numé­riques », d’offrir une aide à la pla­ni­fi­ca­tion des main­te­nances d’un navire, à la visua­li­sa­tion des évé­ne­ments par équi­pe­ment et à l’optimisation de la ges­tion du stock de pièces de rechange et du parc d’outillage.

De nouveaux métiers

Côté métiers, des évo­lu­tions sont per­cep­tibles grâce au déve­lop­pe­ment de cette tech­no­lo­gie au pro­fit des indus­triels et des opé­ra­tion­nels. Si l’on écarte les consi­dé­ra­tions fon­da­men­tales de dimen­sion­ne­ment des équi­pages, le « ron­dier » assis­té par l’IA ne réa­li­se­ra plus les mêmes tâches à l’avenir (ex. : la dis­po­si­tion de cir­cuits). Il en sera de même pour l’opérateur sonar qui devait à l’œil nu extraire « du signal utile » au sein de la myriade de pixels d’un LOFAR (LOw Fre­quen­cy ARray). L’IA per­met la créa­tion de nou­veaux métiers dans le naval de défense, comme celui de pilote ou super­vi­seur de drones, d’essaims de drones océa­niques, à terre ou en mer, sur une ou plu­sieurs pla­te­formes de la force navale.

“L’IA a déjà embarqué à bord des bâtiments de combat !”

Chez les indus­triels, les nou­veaux métiers connec­tés à l’IA sont liés aux don­nées essen­tielles pour ali­men­ter et entraî­ner les intel­li­gences arti­fi­cielles. Aux côtés des experts déjà connus que sont les data scien­tists et data ana­lystes, les data archi­tectes et data engi­neers se déve­loppent. En effet, chaque métier et chaque spé­cia­li­té ont pour voca­tion d’intégrer l’IA comme l’un de leurs outils à part entière. Ain­si, pour le naval, les concep­teurs et opé­ra­teurs de pla­te­formes d’intégration hybride (mêlant archi­tec­tures phy­siques, ému­la­teurs et IA) prennent leur essor. Les concep­teurs de jumeaux numé­riques sont de plus en plus sol­li­ci­tés. En pro­duc­tion, le par­tage des rôles entre l’opérateur et ses outillages se modi­fie via l’IA, que ce soit pour faci­li­ter le contrôle non des­truc­tif de pro­cé­dés spé­ciaux (tels que le sou­dage) ou pour numé­ri­ser l’exploitation des faits tech­niques au sein d’une série de navires, via le trai­te­ment auto­ma­ti­sé du lan­gage naturel.

Une coopération humain-IA

À bord, l’IA est appe­lée à jouer un rôle de cata­ly­seur, appor­tant un dis­cer­ne­ment numé­rique accru pour aug­men­ter la confiance de l’équipage uti­li­sa­teur. Ce sont aux indus­triels du naval (Naval Group, Thales, Safran, Tech­ni­cA­tome, ECA…) de conso­li­der le cercle ver­tueux auto­ma­ti­sa­tion-confiance. Le rôle des humains (équi­pages, indus­triels) res­te­ra majeur dans le choix d’utiliser, ou non, l’IA au sein des navires et des drones. Il sera faci­li­té par la capa­ci­té d’allouer dyna­mi­que­ment l’autonomie délé­guée à l’IA (à bord d’un navire ou d’un drone), pour atteindre le juste néces­saire en termes de per­for­mance opé­ra­tion­nelle, en fonc­tion du contexte et de la mis­sion assi­gnée. D’ici fin 2022, un sous-marin nucléaire d’attaque (SNA) embar­que­ra des fonc­tions avan­cées d’optimisation de tra­jec­toires. Le porte-avions Charles-de-Gaulle dis­pose déjà de fonc­tions d’identification-classification à base d’IA. L’IA a déjà embar­qué à bord des bâti­ments de combat !

En illus­tra­tion : L’IA ajuste le com­por­te­ment des drones voire des déci­sions qui leur sont délé­guées afin de réa­li­ser au mieux la mis­sion confiée. © Naval Group

---

Articles similaires :

La voi­ture auto­nome : pro­grès tech­niques et perspectives Intel­li­gences arti­fi­cielles : à quoi res­sem­ble­ra le futur ? Défi­nir le cadre nor­ma­tif d’une IA de confiance dans les entreprises Data et IA : clés du trai­te­ment auto­ma­tique des don­nées hétérogènes Accul­tu­rer l’entreprise à l’intelligence arti­fi­cielle : l’efficacité du jeu sérieux