Technischer AI Product Manager (m/w/d)
Legal Hero · Berlin, Hybrid · Posted Aug 28, 2026
Transparency
DeadOnline for 12 weeks and never reposted. Jobs this old or reposted this often rarely lead to a hire. It may be filled already.
- First seen
- Oct 8, 2026
- Offered for
- 84 days
Overview
- Category
- Product
- Employment type
- Permanent
- Workplace type
- Hybrid
- Country
- Germany
- Seniority
- Mid level
- Schedule
- Full time
Key skills
- AI Product Development
- Identify AI opportunities, build end‑to‑end solutions and deliver functional products to production.
- LLM Integration
- Implement and maintain production‑grade LLM systems using provider APIs, function calling and streaming.
- Prompt Engineering
- Design, test and apply prompts, including advanced techniques and guardrails for reliable outputs.
- Evaluation & Guardrails
- Create evaluation frameworks, golden datasets and safeguards for compliance and prompt‑injection risks.
- Python Software Engineering
- Develop robust code with Git, testing, CI/CD and code review supporting AI features.
- LangChain / LangGraph Expertise
- Build agentic workflows, routing, chaining and summarization using LangChain or LangGraph.
Key phrases
- juristischen Workflows
- Routing, Chaining, Summarization, agentische Loops
- Product Ownership
- Git, Testing, CI/CD, Code Review
- LangGraph, LangChain
- Function/Tool Calling
- strukturierte Outputs
- Streaming Evals
- Golden Datasets
- Prompt Engineering
- DSGVO, §203 StGB
From the posting
Was dich erwartet
Du findest offene AI-Chancen, baust sie end to end und bringst sie zu echten Nutzern. Als technischer AI Product Manager (m/w/d) sitzt du quer zu unseren drei Produkt-Squads: Du machst aus unbesetzten Themen eigenhändig Produkte, übergibst sie, sobald sie laufen, und bist Sparringspartner:in der Squad-PMs bei allen AI-Themen. Senior heißt bei uns Arbeitsweise, nicht Berufsjahre. Du berichtest direkt an die Produktleitung.Deine Aufgaben
Eigene AI-Projekte (rund die Hälfte deiner Zeit)
- Du findest AI-Chancen mit hohem Hebel in unseren juristischen Workflows – dort, wo kein Squad zuständig ist
- Validiert wird schnell: Gespräche mit Anwält:innen, Legal Ops und Versicherern, Prototypen folgen zeitnah
- Die "Gewinner" bringst du selbst in Production: Routing, Chaining, Summarization, agentische Loops
- Ausgereifte Features übergibst du ans Squad – mit Doku, Evals und Übergabeplan
- Machbarkeit, Kosten, Modellwahl, Risiken: Du beantwortest die Fragen vor jedem AI-Feature
- Beim Design von Evals, Golden Datasets und Guardrails unterstützt du die Teams
- Konzepte reviewst du vor der Roadmap – inklusive Prompt-Injection- und Compliance-Risiken (DSGVO, §203 StGB)
- AI-Handwerk trägst du weiter: Prompt-Engineering-Standards, LLM-Observability, agentische Coding-Workflows
Was du mitbringst
Must-have- Mehrere Production-AI/LLM-Systeme, die du vor echten Nutzern geshippt und verantwortet hast – keine Prototypen
- Nachweisbare Product Ownership: vom vagen Problem zum fertigen Produkt
- Starkes Python-Wissen und ein solides Software-Engineering-Fundament (Git, Testing, CI/CD, Code Review)
- Tiefe Erfahrung mit LangGraph, LangChain o. Ä. – inklusive Verständnis, was darunter passiert
- Sicherer Umgang mit LLM-Provider-APIs: Function/Tool Calling, strukturierte Outputs, Streaming
- Evals, Golden Datasets und Guardrails, bevor du shippst
- Solides Prompt Engineering – du weißt, wann welche Technik greift
- Verhandlungssicheres Englisch; Deutsch ist ein starkes Plus wegen unserer juristischen Domäne
- Die Reife, ohne Squad um dich herum zu arbeiten: Prioritäten setzt du selbst und weißt, wann du Nein sagst
- Du erklärst einem Anwalt einen technischen Tradeoff und einer Engineerin einen juristischen Workflow
Was wir versprechen
Arbeitsumfeld & Flexibilität- Office-first: 3 Tage Büro, 2 Tage Homeoffice – mit Flexibilität, wie du deine Arbeit strukturierst
- Modernes, klimatisiertes Büro mit viel Tageslicht und großer Dachterrasse über Berlin
- Zentrale Lage zwischen Gleisdreieck und Potsdamer Platz
- Vollständige Übernahme des Deutschlandtickets
- Betriebliche Altersvorsorge mit 20 % Arbeitgeberzuschuss
- Corporate-Benefits-Plattform mit Rabatten vieler Marken
- Hundefreundliches Büro – vierbeinige Teammitglieder sind willkommen
- Regelmäßige Firmen- und Teamevents, After-Work-Fun mit Switch, PS5, Darts und Kicker
- Kostenlose Getränke, frisches Obst und Müsli
- Agiles Mindset mit offener Kommunikation – jede Stimme zählt
- Feedback ist Teil unserer Kultur – wir glauben an gemeinsames Wachstum
- Deine Bewerbung als AI Product Engineer (Senior) – kurz und direkt
- Ca. 20-minütiges Kennenlerngespräch mit unserem HR-Team
- Ca. 60-minütiges Vor-Ort-Interview mit deinem Hiring Manager
- Ca. 30-minütiges Gespräch mit dem Management-Team
- Zeitnah ein Angebot
More jobs at Legal Hero
See all 8 jobs at Legal Hero
