transformers / v4.43.3

2024. 8. 3. 20:56·AI/오픈소스 릴리즈 노트

이번 Hugging Face의 Transformers 릴리즈(v4.43.3)의 주요 내용은 다음과 같습니다:

  1. DeepSpeed 관련 수정:
    • DeepSpeed와 함께 사용될 때 임베딩 크기를 조정하는 기능이 추가되었습니다. 이는 사용자가 모델의 임베딩 크기를 더 유연하게 조정할 수 있도록 돕는 기능입니다.
  2. 기타 수정 사항:
    • Whisper 모델: 짧은 오디오에 대한 출력 형식을 수정하였습니다. 이로 인해 짧은 오디오 처리 시의 온도 설정이 개선되었습니다.
    • BigBird Pegasus 모델: _supports_param_buffer_assignment를 False로 설정하여 새로운 초고속 초기화 기능에서 일부 모델이 이상하게 동작하는 문제를 방지하였습니다.

이번 패치는 주로 버그 수정과 성능 개선을 목표로 하고 있으며, 특정 사용 사례에서의 안정성을 높이는 데 중점을 두고 있습니다.

 

https://github.com/huggingface/transformers/releases/tag/v4.43.3

 

Release v4.43.3 Patch deepspeed · huggingface/transformers

Patch release v4.43.3: We still saw some bugs so @zucchini-nlp added: Resize embeds with DeepSpeed #32214 Other fixes: [whisper] fix short-form output type #32178, by @sanchit-gandhi which fixes...

github.com

 

저작자표시 (새창열림)

'AI > 오픈소스 릴리즈 노트' 카테고리의 다른 글

오픈소스 릴리즈 노트 읽기 - 8월 1주차  (0) 2024.08.04
langchain / 0.2.12  (0) 2024.08.03
ollama / v0.3.3  (0) 2024.08.03
transformers / v4.43.2  (0) 2024.08.03
vLLM / v0.5.3.post1  (0) 2024.08.03
'AI/오픈소스 릴리즈 노트' 카테고리의 다른 글
  • langchain / 0.2.12
  • ollama / v0.3.3
  • transformers / v4.43.2
  • vLLM / v0.5.3.post1
pfldy2850
pfldy2850
인공지능의 서비스화와 현실화에 관심이 많은 엔지니어입니다.
  • pfldy2850
    DEV.DY
    Github LinkedIn
  • 전체
    오늘
    어제
    • All (105)
      • AI (68)
        • 어플리케이션 개발 (11)
        • 모델 인퍼런스 (9)
        • 검색 시스템 (11)
        • MLOps (8)
        • 기술,논문 리뷰 (7)
        • Lecture notes (10)
        • 오픈소스 릴리즈 노트 (12)
      • Infra (4)
        • Kubernetes (1)
        • Service Mesh (1)
        • Service Proxy (1)
        • Storage (1)
      • Data Engineering (4)
        • Spark (3)
        • Kafka (1)
        • Delta Lake (0)
      • 컴퓨터 공학 (2)
        • 소프트웨어 공학 (2)
      • 개발 (16)
        • ReactJS (8)
        • NodeJS (2)
        • Python (4)
        • Pytorch (1)
        • git (1)
      • 영어공부 (2)
        • GPT로 영어 회화 공부 (2)
      • 활동 (2)
        • 2017 NDC (2)
      • 기타 (1)
      • 레거시 (6)
        • OS (6)
  • 인기 글

  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.1
pfldy2850
transformers / v4.43.3
상단으로

티스토리툴바