Technischer AI Product Manager (m/w/d)

Legal Hero · Berlin, Hybrid · Posted Aug 28, 2026


Transparency

Dead

Online for 12 weeks and never reposted. Jobs this old or reposted this often rarely lead to a hire. It may be filled already.

First seen
Oct 8, 2026
Offered for
84 days

Overview

Category
Product
Employment type
Permanent
Workplace type
Hybrid
Country
Germany
Seniority
Mid level
Schedule
Full time

Key skills

AI Product Development
Identify AI opportunities, build end‑to‑end solutions and deliver functional products to production.
LLM Integration
Implement and maintain production‑grade LLM systems using provider APIs, function calling and streaming.
Prompt Engineering
Design, test and apply prompts, including advanced techniques and guardrails for reliable outputs.
Evaluation & Guardrails
Create evaluation frameworks, golden datasets and safeguards for compliance and prompt‑injection risks.
Python Software Engineering
Develop robust code with Git, testing, CI/CD and code review supporting AI features.
LangChain / LangGraph Expertise
Build agentic workflows, routing, chaining and summarization using LangChain or LangGraph.

Key phrases

  • juristischen Workflows
  • Routing, Chaining, Summarization, agentische Loops
  • Product Ownership
  • Git, Testing, CI/CD, Code Review
  • LangGraph, LangChain
  • Function/Tool Calling
  • strukturierte Outputs
  • Streaming Evals
  • Golden Datasets
  • Prompt Engineering
  • DSGVO, §203 StGB

From the posting

Was dich erwartet

Du findest offene AI-Chancen, baust sie end to end und bringst sie zu echten Nutzern. Als technischer AI Product Manager (m/w/d) sitzt du quer zu unseren drei Produkt-Squads: Du machst aus unbesetzten Themen eigenhändig Produkte, übergibst sie, sobald sie laufen, und bist Sparringspartner:in der Squad-PMs bei allen AI-Themen. Senior heißt bei uns Arbeitsweise, nicht Berufsjahre. Du berichtest direkt an die Produktleitung.

Deine Aufgaben
Eigene AI-Projekte (rund die Hälfte deiner Zeit)
  • Du findest AI-Chancen mit hohem Hebel in unseren juristischen Workflows – dort, wo kein Squad zuständig ist
  • Validiert wird schnell: Gespräche mit Anwält:innen, Legal Ops und Versicherern, Prototypen folgen zeitnah
  • Die "Gewinner" bringst du selbst in Production: Routing, Chaining, Summarization, agentische Loops
  • Ausgereifte Features übergibst du ans Squad – mit Doku, Evals und Übergabeplan
Support für die Squads (die andere Hälfte)
  • Machbarkeit, Kosten, Modellwahl, Risiken: Du beantwortest die Fragen vor jedem AI-Feature
  • Beim Design von Evals, Golden Datasets und Guardrails unterstützt du die Teams
  • Konzepte reviewst du vor der Roadmap – inklusive Prompt-Injection- und Compliance-Risiken (DSGVO, §203 StGB)
  • AI-Handwerk trägst du weiter: Prompt-Engineering-Standards, LLM-Observability, agentische Coding-Workflows

Was du mitbringst

Must-have
  • Mehrere Production-AI/LLM-Systeme, die du vor echten Nutzern geshippt und verantwortet hast – keine Prototypen
  • Nachweisbare Product Ownership: vom vagen Problem zum fertigen Produkt
  • Starkes Python-Wissen und ein solides Software-Engineering-Fundament (Git, Testing, CI/CD, Code Review)
  • Tiefe Erfahrung mit LangGraph, LangChain o. Ä. – inklusive Verständnis, was darunter passiert
  • Sicherer Umgang mit LLM-Provider-APIs: Function/Tool Calling, strukturierte Outputs, Streaming
  • Evals, Golden Datasets und Guardrails, bevor du shippst
  • Solides Prompt Engineering – du weißt, wann welche Technik greift
  • Verhandlungssicheres Englisch; Deutsch ist ein starkes Plus wegen unserer juristischen Domäne
Soft Skills
  • Die Reife, ohne Squad um dich herum zu arbeiten: Prioritäten setzt du selbst und weißt, wann du Nein sagst
  • Du erklärst einem Anwalt einen technischen Tradeoff und einer Engineerin einen juristischen Workflow

Was wir versprechen

Arbeitsumfeld & Flexibilität
  • Office-first: 3 Tage Büro, 2 Tage Homeoffice – mit Flexibilität, wie du deine Arbeit strukturierst
  • Modernes, klimatisiertes Büro mit viel Tageslicht und großer Dachterrasse über Berlin
  • Zentrale Lage zwischen Gleisdreieck und Potsdamer Platz
Benefits
  • Vollständige Übernahme des Deutschlandtickets
  • Betriebliche Altersvorsorge mit 20 % Arbeitgeberzuschuss
  • Corporate-Benefits-Plattform mit Rabatten vieler Marken
  • Hundefreundliches Büro – vierbeinige Teammitglieder sind willkommen
  • Regelmäßige Firmen- und Teamevents, After-Work-Fun mit Switch, PS5, Darts und Kicker
  • Kostenlose Getränke, frisches Obst und Müsli
Kultur & Zusammenarbeit
  • Agiles Mindset mit offener Kommunikation – jede Stimme zählt
  • Feedback ist Teil unserer Kultur – wir glauben an gemeinsames Wachstum
Schneller Bewerbungsprozess
  • Deine Bewerbung als AI Product Engineer (Senior) – kurz und direkt 
  • Ca. 20-minütiges Kennenlerngespräch mit unserem HR-Team
  • Ca. 60-minütiges Vor-Ort-Interview mit deinem Hiring Manager
  • Ca. 30-minütiges Gespräch mit dem Management-Team
  • Zeitnah ein Angebot
Deine Ansprechpartnerin: Nadine · HR Managerin · karriere@legalhero.de · 030 22957522

More jobs at Legal Hero

Rechtsanwalt (m/w/d) Arbeitsrecht – Gründung der eigenen Kanzlei in Berlin

Legal Hero · Last week | Berlin | On-site · Mid level · Full time

Create CV

Technical AI Product Manager (m/w/d)

Legal Hero · Last month | Berlin, Hybrid | €70K–€100K / year | Hybrid · Mid level · Full time

Create CV

Werkstudent PR & Marketing (m/w/d)

Legal Hero · 2 months ago | Berlin, Hybrid | €14–€17 / hour | On-site · Student · Part time

Create CV

Rechtsanwaltsfachangestellter / ReFa (m/w/d) - Legal Operations

Legal Hero · 7 months ago | Berlin, Hybrid | 36000.00–48000.00 EUR / yearly | Hybrid · Mid level · Full time

Create CV

Call Center Agent (m/w/d) in Teil- oder Vollzeit

Legal Hero · 8 months ago | Berlin, Hybrid | 26000.00–37000.00 EUR / yearly | Hybrid · Mid level · Full time

Create CV
See all 8 jobs at Legal Hero