# In PowerShell ausfuehren, NICHT in der Git-Bash: Git-Bash schreibt Docker-Mount-Pfade # um (/data wird zu C:/Program Files/Git/data) -- das war die Falle bei der # Qwen3-Konvertierung im Juli 2026. # # cd "D:\Vibe Coding\_Spielplatz\Aime\_rkllm-qwen35" # .\run_convert.ps1 $ErrorActionPreference = 'Stop' $here = Split-Path -Parent $MyInvocation.MyCommand.Path $data = Join-Path $here 'data' New-Item -ItemType Directory -Force -Path (Join-Path $data 'hf') | Out-Null New-Item -ItemType Directory -Force -Path (Join-Path $data 'out') | Out-Null Write-Host '== 1/3 GPU sichtbar?' -ForegroundColor Cyan docker run --rm --gpus all nvidia/cuda:12.4.1-base-ubuntu22.04 nvidia-smi --query-gpu=name,memory.total --format=csv if (-not $?) { throw 'Docker sieht die GPU nicht. WSL2-Backend + NVIDIA Container Toolkit pruefen.' } Write-Host '== 2/3 Image bauen (einmalig, ~10-15 Min)' -ForegroundColor Cyan docker build -t rkllm-toolkit:1.3.0 $here if (-not $?) { throw 'docker build fehlgeschlagen' } Write-Host '== 3/3 Konvertieren (Download ~8 GB beim ersten Lauf, dann ~30-60 Min)' -ForegroundColor Cyan docker run --rm --gpus all --shm-size=8g ` -v "${data}:/data" ` rkllm-toolkit:1.3.0 ` python3 /work/convert_qwen35.py ` --model Qwen/Qwen3.5-4B ` --out /data/out/qwen35-4b-w8a8g128-16k.rkllm ` --dtype w8a8_g128 ` --max-context 16384 ` --npu-cores 3 ` --device cuda Write-Host '' Write-Host 'Ergebnis liegt in:' -ForegroundColor Green Get-ChildItem (Join-Path $data 'out')