CTranslate2的Whisper小模型

这个仓库包含将 openai/whisper-tiny 转换为 CTranslate2 模型格式的内容。

这个模型可以在CTranslate2或基于CTranslate2的项目中使用，比如 faster-whisper 。

示例

from faster_whisper import WhisperModel

model = WhisperModel("tiny")

segments, info = model.transcribe("audio.mp3")
for segment in segments:
    print("[%.2fs -> %.2fs] %s" % (segment.start, segment.end, segment.text))

转换细节

原始模型是使用以下命令进行转换的：

ct2-transformers-converter --model openai/whisper-tiny --output_dir faster-whisper-tiny \
    --copy_files tokenizer.json --quantization float16

请注意，模型权重以FP16格式保存。当加载模型时可以更改此类型，使用 compute_type option in CTranslate2 。

更多信息

有关原始模型的更多信息，请参阅其 model card 。