Technical AI Product Manager (m/w/d)

Legal Hero · Berlin, Hybrid · Posted Sep 29, 2026


Transparency

Dead

Online for 7 weeks and never reposted. Jobs this old or reposted this often rarely lead to a hire. It may be filled already.

First seen
Oct 8, 2026
Offered for
52 days

Overview

Category
Product
Employment type
Permanent
Workplace type
Hybrid
Country
Germany
Seniority
Mid level
Schedule
Full time
Salary
€70,000–€100,000 / year

Key skills

AI Product Development
Identify high‑impact AI opportunities in legal workflows and deliver end‑to‑end AI features into production.
Prompt Engineering
Create and maintain prompt‑engineering standards, design golden datasets and guardrails for LLM releases.
LLM Integration
Build routing, chaining, summarization and agentic loops using LangGraph, LangChain or similar frameworks.
Evaluation Design
Design and run evaluations, build golden datasets and implement LLM observability before hand‑off.
Technical Stakeholder Communication
Translate technical trade‑offs for lawyers and legal workflows for engineers and vice‑versa.
Python Development
Write production‑grade Python code, manage Git, testing, CI/CD and code reviews for AI features.

Key phrases

  • Technical AI Product Manager
  • Routing, Chaining, Summarization, agentische Loops
  • LangGraph
  • LangChain
  • Tool Calling
  • strukturierte Outputs
  • Streaming
  • Evals, Golden Datasets und Guardrails

From the posting

Was dich erwartet

Du hast Produkte verantwortet und weißt, was im Code passiert, wenn ein LLM-Feature live geht? Als Technical AI Product Manager findest du AI-Chancen in juristischen Workflows, validierst sie und bringst sie selbst in Production. Keine reine Engineering-Rolle, sondern Product-Background mit starkem technischem Verständnis.

Deine Aufgaben
Eigene AI-Produkte (rund die Hälfte deiner Zeit)
  • Du findest AI-Chancen mit hohem Hebel in unseren juristischen Workflows, und zwar dort, wo kein Squad zuständig ist.
  • Trägt eine Idee wirklich? Das findest du schnell heraus: in Gesprächen mit Anwält:innen, Legal Ops und Versicherern, gefolgt von zeitnahen Prototypen.
  • Die „Gewinner“ bringst du selbst in Production, hands-on: Routing, Chaining, Summarization, agentische Loops.
  • Sobald ein Feature ausgereift ist, übergibst du es ans Squad, mit Doku, Evals und Übergabeplan.
Sparring für die Squads (die andere Hälfte)
  • Machbarkeit, Kosten, Modellwahl, Risiken: Du beantwortest die Fragen, die vor jedem AI-Feature stehen.
  • Beim Design von Evals, Golden Datasets und Guardrails bist du die erste Anlaufstelle für die Teams.
  • Konzepte reviewst du, bevor sie auf die Roadmap kommen, inklusive Prompt-Injection- und Compliance-Risiken (DSGVO, §203 StGB).
  • Als AI-Stimme im Produktteam trägst du das Handwerk weiter: Prompt-Engineering-Standards, LLM-Observability, agentische Coding-Workflows.

Was du mitbringst

Must-have
  • Product und Engineering kennst du beide aus eigener Erfahrung: Du hast die komplette Kette nachweislich durchlaufen.
  • Aus vagen Problemen machst du fertige Produkte, und dein Track Record zeigt das.
  • AI prägt deine Arbeit seit Jahren. Mehrere LLM-Systeme hast du vor echten Nutzer:innen geshippt und verantwortet.
  • Python ist dein Werkzeug. Git, Testing, CI/CD und Code Review sind für dich Alltag.
  • LangGraph, LangChain o. Ä. kennst du in der Tiefe, auch das, was darunter passiert.
    Tool Calling, strukturierte Outputs, Streaming? Mit LLM-Provider-APIs arbeitest du sicher.
  • Evals, Golden Datasets und Guardrails stehen bei dir vor dem Release. Beim Prompt Engineering weißt du, wann welche Technik greift.
  • Du sprichst fließend Deutsch (mind. C1), denn unsere Domäne ist juristisch, und verhandlungssicheres Englisch.
Soft Skills
  • Du brauchst kein Squad um dich herum: Prioritäten setzt du selbst und sagst auch mal Nein.
  • Du übersetzt in beide Richtungen: technische Tradeoffs für Anwält:innen, juristische Workflows für Engineers.

Was wir versprechen

Arbeitsumfeld & Flexibilität
  • Office-first: 3 Tage Büro, 2 Tage Homeoffice – mit Flexibilität, wie du deine Arbeit strukturierst
  • Modernes, klimatisiertes Büro mit viel Tageslicht und großer Dachterrasse über Berlin
  • Zentrale Lage zwischen Gleisdreieck und Potsdamer Platz
Benefits
  • Vollständige Übernahme des Deutschlandtickets
  • Betriebliche Altersvorsorge mit 20 % Arbeitgeberzuschuss
  • Corporate-Benefits-Plattform mit Rabatten vieler Marken
  • Hundefreundliches Büro – vierbeinige Teammitglieder sind willkommen
  • Regelmäßige Firmen- und Teamevents, After-Work-Fun mit Switch, PS5, Darts und Kicker
  • Kostenlose Getränke, frisches Obst und Müsli
Kultur & Zusammenarbeit
  • Agiles Mindset mit offener Kommunikation – jede Stimme zählt
  • Feedback ist Teil unserer Kultur – wir glauben an gemeinsames Wachstum
Schneller Bewerbungsprozess
  • Deine Bewerbung als AI Product Engineer (Senior) – kurz und direkt 
  • Ca. 20-minütiges Kennenlerngespräch mit unserem HR-Team
  • Ca. 60-minütiges Vor-Ort-Interview mit deinem Hiring Manager
  • Ca. 30-minütiges Gespräch mit dem Management-Team
  • Zeitnah ein Angebot
Deine Ansprechpartnerin: Nadine · HR Managerin · karriere@legalhero.de · 030 22957522

More jobs at Legal Hero

Rechtsanwalt (m/w/d) Arbeitsrecht – Gründung der eigenen Kanzlei in Berlin

Legal Hero · Last week | Berlin | On-site · Mid level · Full time

Create CV

Werkstudent PR & Marketing (m/w/d)

Legal Hero · 2 months ago | Berlin, Hybrid | €14–€17 / hour | On-site · Student · Part time

Create CV

Technischer AI Product Manager (m/w/d)

Legal Hero · 2 months ago | Berlin, Hybrid | Hybrid · Mid level · Full time

Create CV

Rechtsanwaltsfachangestellter / ReFa (m/w/d) - Legal Operations

Legal Hero · 7 months ago | Berlin, Hybrid | 36000.00–48000.00 EUR / yearly | Hybrid · Mid level · Full time

Create CV

Call Center Agent (m/w/d) in Teil- oder Vollzeit

Legal Hero · 8 months ago | Berlin, Hybrid | 26000.00–37000.00 EUR / yearly | Hybrid · Mid level · Full time

Create CV
See all 8 jobs at Legal Hero