Seppo Linnainmaa

Dans le monde d'aujourd'hui, Seppo Linnainmaa est devenu un sujet d'une grande pertinence et d'un grand intérêt pour un large spectre de la société. De son impact sur la vie quotidienne des gens à son influence sur l'économie et la politique, Seppo Linnainmaa a réussi à capter l'attention et à susciter des débats passionnés dans différents domaines. Au fil du temps, son importance et son impact ont augmenté, ce qui a suscité un intérêt croissant pour la compréhension de sa nature, de ses implications et de ses éventuelles conséquences futures. Dans cet article, nous explorerons plus en détail le phénomène de Seppo Linnainmaa et discuterons de sa signification dans le contexte actuel.

Seppo Linnainmaa
une illustration sous licence libre serait bienvenue
Biographie
Naissance
Nationalité
Formation
Activités
Autres informations
A travaillé pour
Directeur de thèse
Martti Tienari (d)Voir et modifier les données sur Wikidata

modifier - modifier le code - modifier WikidataDocumentation du modèle

Seppo Ilmari Linnainmaa, né le à Pori[1], est un mathématicien et informaticien finlandais. Il s'est fait connaitre en créant la version moderne de la rétropropagation du gradient (rétropropagation).

Éléments de biographie

Seppo Linnainmaa a obtenu en 1970 une maîtrise, avec un mémoire dans lequel il introduit un mode inverse de différenciation automatique[2]. En 1974, il obtient le premier doctorat décerné en informatique à l'université d'Helsinki[3].

Il est nommé professeur adjoint en 1976. De 1989 à 2007, il est professeur-chercheur au Centre de recherche technique VTT de Finlande et est retraité depuis 2007.

Il a aussi été professeur invité à l'université du Maryland, aux États-Unis, en 1984-1985.

De 1986 à 1989, il préside la Société finlandaise d'intelligence artificielle.

Algorithme de rétropropagation

La rétropropagation d'erreur explicite et efficace dans des réseaux de type réseaux de neurones arbitraires, discrets, éventuellement peu connectés, a été décrite pour la première fois dans la thèse de maîtrise de Linnainmaa en 1970[2],[4], bien que sans référence aux réseaux de neurones[5], lorsqu'il a introduit le mode inverse de différenciation automatique (DA) pour calculer efficacement la dérivée d'une fonction composée différentiable qui peut être représentée sous forme de graphique, en appliquant récursivement la règle de chaîne aux éléments constitutifs de la fonction[3],[4],[6]. Linnainmaa a publié le premier cette méthode, à la suite de Gerardi Ostrowski qui l'avait utilisée dans le contexte de certains modèles de processus en génie chimique environ cinq ans plus tôt, mais sans l'avoir publiée.

Avec l'apparition de puces et d’ordinateurs de plus en plus rapides et puissants, l'usage de cette méthode s'est répandu et elle a de nombreuses applications. Ainsi, la rétropropagation des erreurs dans les perceptrons multicouches, une technique utilisée en apprentissage automatique, est un cas particulier de la différentiation automatique en mode inverse.

Références

  1. ↑ (fi) Suomen professorit 1640–2007, Helsinki, Professoriliitto, (ISBN 978-952-99281-1-8), p. 405.
  2. ↑ a et b (en) « Seppo Linnainmaa (Mathematician and Computer Scientist) », OnThisDay.com (consulté le ).
  3. ↑ a et b Andreas Griewank, « Who Invented the Reverse Mode of Differentiation? », dans Documenta Matematica, Extra Volume ISMP, (S2CID 15568746), p. 389–400.
  4. ↑ a et b (en) Linnainmaa, « Taylor expansion of the accumulated rounding error », BIT Numerical Mathematics, vol. 16, no 2,‎ , p. 146–160 (DOI 10.1007/BF01931367, S2CID 122357351).
  5. ↑ (en) Jürgen Schmidhuber, « Who Invented Backpropagation? », .
  6. ↑ (en) Andreas Griewank et Andrea Walther, Evaluating Derivatives : Principles and Techniques of Algorithmic Differentiation, Philadelphie, Society for Industrial and Applied Mathematics, , 2e éd., 459 p. (ISBN 978-0-89871-659-7 et 978-0-89871-776-1, DOI 10.1137/1.9780898717761, lire en ligne), p. 12.

Voir aussi

Articles connexes

Liens externes