benederbabo/xlm-roberta-large-ner-hrl-onnx

XLM-RoBERTa-Large-NER-HRL — ONNX

ONNX-Konvertierung von Davlan/xlm-roberta-large-ner-hrl zum Einsatz im Browser via Transformers.js.

Ursprünglich fine-tuned auf 10 High-Resource-Sprachen (Arabisch, Chinesisch, Deutsch, Englisch, Französisch, Niederländisch, Portugiesisch, Russisch, Spanisch). Erkennt PER / ORG / LOC / DATE.

Varianten in diesem Repo

Datei	Größe	Einsatz
onnx/model_fp16.onnx	~1.1 GB	WebGPU (Chrome/Edge, teils Safari)
onnx/model_quantized.onnx	~536 MB	WASM-Fallback (alle Browser)

FP32 wird bewusst nicht mitgeliefert (>2 GB, über der Protobuf-Grenze — müsste als External-Data-File geteilt werden, was Transformers.js komplizierter macht). Für Server-seitige Inferenz mit vollem FP32 → Original-Repo nutzen.

Nutzung mit Transformers.js

import { pipeline } from "@huggingface/transformers";

const ner = await pipeline(
  "token-classification",
  "YOUR_USERNAME/xlm-roberta-large-ner-hrl-onnx",
  { dtype: "fp16", device: "webgpu" }      // schnell auf WebGPU
  // oder: { dtype: "q8", device: "wasm" } // überall lauffähig
);

const result = await ner("Max Mustermann arbeitet bei Siemens in München.");
console.log(result);
// [
//   { entity: 'B-PER', word: '▁Max',        ... },
//   { entity: 'I-PER', word: '▁Must',       ... },
//   { entity: 'I-PER', word: 'er',          ... },
//   { entity: 'I-PER', word: 'mann',        ... },
//   { entity: 'B-ORG', word: '▁Siemens',    ... },
//   { entity: 'B-LOC', word: '▁München',    ... }
// ]

Konvertierungs-Pipeline

1. optimum-cli export onnx --model Davlan/xlm-roberta-large-ner-hrl --task token-classification --opset 17
2. FP16: onnxconverter_common.float16.convert_float_to_float16(model, keep_io_types=True, disable_shape_infer=True)
3. INT8: onnxruntime.quantization.quantize_dynamic(..., weight_type=QInt8, per_channel=True, reduce_range=True)

Erzeugt für den Einsatz im Seraph PDF-Redaktions-Tool.

Lizenz

Apache 2.0 (wie das Original). Siehe LICENSE.

Attribution

• Original-Modell: Davlan/xlm-roberta-large-ner-hrl
• Basis-Architektur: xlm-roberta-large (Facebook AI)
• Training-Paper: Adelani et al. 2021 — MasakhaNER: Named Entity Recognition for African Languages