오픈소스 릴리즈 노트 읽기 - 24년 9월 2, 3주차

안녕하세요, AI 오픈소스 프로젝트에 관심을 갖고 계신 여러분!
이번 주에도 여러 흥미로운 오픈소스 프로젝트들이 새롭게 릴리즈되었습니다.
여러분께 도움이 될 만한 주요 릴리즈 소식을 정리해 보았으니, 관심 있는 프로젝트가 있다면 업데이트된 기능과 버그 수정 내용을 확인해 보세요.

 

---

 

제가 평소에 관심있게 살펴보는 프로젝트들입니다.
아래 목록에 추가하고 싶은 오픈소스 프로젝트가 있다면, 댓글로 남겨주세요!

• langchain-ai/langchain
• langchain-ai/langgraph
• huggingface/transformers
• vllm-project/vllm
• NVIDIA/TensorRT-LLM
• microsoft/DeepSpeed
• ollama/ollama

 

---

 

langchain-ai/langchain

langchain==0.3.0

https://github.com/langchain-ai/langchain/releases/tag/langchain%3D%3D0.3.0
langchain==0.3.0 릴리즈 노트에 따르면, 이번 버전에서는 몇 가지 중요한 변경 사항이 있습니다.

1. Pydantic 2 호환성: langchain 라이브러리는 Pydantic 2와의 호환성을 추가했습니다. 이는 데이터 검증 및 설정 관리를 위한 Pydantic의 최신 버전을 지원하게 되어, 개발자들이 더 향상된 기능을 활용할 수 있게 됩니다.
2. 비 LLm 실행의 트레이싱 요청에서 직렬화된 매니페스트 제거: 이번 업데이트에서는 비 LLm(대형 언어 모델) 실행에서 트레이싱 요청 시 직렬화된 매니페스트를 제거했습니다. 이는 코드의 간결성을 높이고, 성능을 개선하는 데 기여할 수 있습니다.
   이러한 변경 사항들은 langchain의 전반적인 성능과 호환성을 향상시키는 데 중점을 두고 있습니다.

 

langchain-core==0.3.1

https://github.com/langchain-ai/langchain/releases/tag/langchain-core%3D%3D0.3.1
langchain-core의 0.3.1 버전에서는 다음과 같은 주요 변경 사항이 있습니다:

1. 버그 수정: "argument of type 'NoneType' is not iterable"라는 오류를 수정했습니다. 이 오류는 LangChainTracer에서 발생했으며, 해당 문제를 해결하여 안정성을 향상시켰습니다.
2. 기능 개선: RemoveMessage에서 beta 레이블을 제거했습니다. 이는 해당 기능이 더 이상 실험적이지 않음을 의미하며, 사용자에게 보다 안정적인 사용 경험을 제공하기 위한 조치입니다.
   이번 릴리즈는 주로 버그 수정과 기능의 안정성을 높이는 데 초점을 맞추고 있습니다.

 

langchain-core==0.2.41

https://github.com/langchain-ai/langchain/releases/tag/langchain-core%3D%3D0.2.41
이번 langchain-core 0.2.41 릴리즈에서는 두 가지 주요 변경 사항이 있습니다.

1. 버전 업데이트: 이 릴리즈는 0.3.2에서 0.2.41로의 다운그레이드로 보이며, 이는 특정 패치가 포함된 버전입니다.
2. 버그 수정: Bedrock 채팅 모델을 로드하는 과정에서 발생했던 문제를 해결했습니다. 이는 사용자들이 Bedrock 모델을 사용할 때 발생할 수 있는 문제를 개선하여 더 원활한 경험을 제공할 것입니다.
   이와 같은 패치는 사용자 경험을 향상시키고 모델 로딩의 안정성을 높이는 데 기여합니다.

 

langchain-core==0.3.2

https://github.com/langchain-ai/langchain/releases/tag/langchain-core%3D%3D0.3.2
langchain-core의 0.3.2 릴리즈는 이전 버전인 0.3.1에서 몇 가지 중요한 변경 사항을 포함하고 있습니다. 주요 내용은 다음과 같습니다:

1. ChatBedrock 로드 수정: ChatBedrock의 로드 과정에서 발생했던 문제를 수정했습니다 (#26679).
2. 기본 네임스페이스의 경로로부터 로드 지원: 기본 네임스페이스를 경로에서 로드할 수 있도록 지원을 추가했습니다 (#26675).
3. 그래프 벡터스토어 커뮤니티로 이동: 그래프 벡터스토어를 커뮤니티로 이동시키는 작업이 이루어졌습니다 (#26678).
4. N(naming) ruff 규칙 추가: 코드 스타일을 개선하기 위한 N(naming) 관련 ruff 규칙이 추가되었습니다 (#25362).
5. ruff.target-version 사용: ruff의 타겟 버전을 지정하는 방식을 변경했습니다 (#26634).
6. pyproject의 [project] 태그 제거: 프로젝트 메타데이터에서 [project] 태그를 제거했습니다 (#26633).
7. Python 버전을 프로젝트 요구 사항으로 추가: Python 버전을 프로젝트 요구 사항으로 추가하여 ruff에서 이를 인식하도록 했습니다 (#26608).
8. PEP585 주석 사용을 위한 ruff 규칙 추가: PEP585 주석 사용을 장려하기 위한 ruff 규칙을 추가했습니다 (#26574).
9. 문서 개선: PyPI의 README 이미지 링크를 수정했습니다 (#26590).
10. bind_functions 사용 중단: bind_functions의 사용을 중단하고 채팅 모드를 업데이트하는 작업이 이루어졌습니다 (#26584).
    이번 릴리즈는 코드 품질을 높이고, 사용성을 개선하기 위한 다양한 수정과 업데이트가 포함되어 있습니다.

 

 

langchain-ai/langgraph

0.2.20

https://github.com/langchain-ai/langgraph/releases/tag/0.2.20
이번 langgraph 0.2.20 릴리즈는 여러 성능 개선과 새로운 기능 추가를 포함하고 있습니다. 주요 변경사항은 다음과 같습니다:

1. 성능 개선: 체크포인팅과 채널 관련 성능이 개선되었습니다. 이는 시스템의 반응 속도와 효율성을 높이는 데 기여합니다.
2. 벤치마크 그래프 추가: 두 개의 새로운 벤치마크 그래프가 추가되어 성능 평가가 더욱 다양해졌습니다.
3. 코어 라이브러리 개선: 코어 라이브러리의 성능이 전반적으로 향상되었습니다.
4. 서브그래프 위임 구현: 분산 아키텍처를 위한 서브그래프 위임 기능이 구현되어, 더욱 유연한 시스템 설계가 가능해졌습니다.
5. 명령어 수정 및 추가: 다양한 명령어가 수정되고, 벤치마크 및 프로파일링을 위한 새로운 명령어가 추가되었습니다.
6. 테스트 및 오류 처리 개선: 실행자에 의해 실행되는 노드에서 발생하는 오류를 포착하고, 테스트 케이스가 추가되었습니다.
7. Kafka를 위한 LangGraph 스케줄러 구현: Kafka와의 통합을 위한 새로운 스케줄러가 구현되어, 데이터 처리의 효율성을 높였습니다.
8. 기타 변경사항: 여러 파일이 제거되거나 이름이 변경되었으며, 상태 정의를 위한 선택적 타입 지원과 같은 기능도 추가되었습니다.
   이번 릴리즈는 시스템의 전반적인 안정성과 성능을 높이는 데 중점을 두었으며, 개발자들이 더 나은 성능을 경험할 수 있도록 여러 개선이 이루어졌습니다.

 

0.2.21

https://github.com/langchain-ai/langgraph/releases/tag/0.2.21
이번 langgraph 0.2.21 릴리즈에서는 다음과 같은 변경 사항이 있었습니다:

• 버전 0.2.20에서 0.2.21로 업데이트되었습니다.
• 개발 의존성에서 grandalf 패키지가 제거되었습니다.
  이러한 변경 사항은 주로 패키지 관리와 관련이 있으며, grandalf의 제거는 개발 환경을 간소화하기 위한 조치로 보입니다. 추가적인 기능이나 수정 사항은 포함되어 있지 않은 것으로 확인됩니다.

 

0.2.22

https://github.com/langchain-ai/langgraph/releases/tag/0.2.22
이번 0.2.22 릴리즈에서는 다음과 같은 변경 사항이 있습니다:

1. 문서 수정: 코스 무료에 대한 설명을 명확히 했습니다 (#1730).
2. 서브그래프 재시도 기능: 실패한 노드에서 서브그래프를 재시작하는 기능이 추가되었습니다 (#1695).
3. 의존성 업데이트: Poetry 잠금 파일에서 핵심 라이브러리를 업데이트했습니다 (#1717).
4. 모델 생성 방식 개선: create_model_v2를 사용하고, 실패 시 create_model로 대체하는 방식으로 변경했습니다 (#1708).
5. 비권장 경고 추가: 전체 상태가 없는 경우에 대한 비권장 경고를 추가했습니다 (#1698).
   이러한 변경 사항들은 기능 개선과 버그 수정을 포함하여, 사용자 경험을 향상시키기 위한 노력의 일환으로 보입니다.

 

 

vllm-project/vllm

v0.6.1.post2

https://github.com/vllm-project/vllm/releases/tag/v0.6.1.post2
이번 vllm 프로젝트의 v0.6.1.post2 릴리즈는 몇 가지 중요한 변경 사항과 버그 수정을 포함하고 있습니다.

주요 내용

• 이번 릴리즈에서는 토큰 스트리밍과 중지 문자열을 함께 사용할 때 발생하는 중요한 버그가 수정되었습니다(#8468). 이 수정은 최종 출력의 잘림 문제를 해결하여 보다 안정적인 결과를 제공합니다.변경 사항
• CI/빌드: 단일 노드에서만 InternVL2 PP 테스트를 활성화하였습니다.
• 문서: Conda 대신 pip 사용을 권장하는 내용이 추가되었습니다.
• 기타: Qwen2-VL GPTQ-Int8 모델에 대해 추가 바이어스 로드를 건너뛰도록 수정하였습니다.
• 설치: Python 3.8에 대한 FastAPI 버전 제한을 설정하였습니다.
• 플러그인: 사용자 정의 컴파일 백엔드를 추가할 수 있도록 하였습니다.
• 모델 테스트: 모델 테스트를 재조직하였습니다.
• 문서: CPU 백엔드 문서에 oneDNN 설치 방법을 추가하였습니다.
• 핫픽스: 스트리밍 중 중지 문자열과 관련된 최종 출력 잘림 문제를 수정하였습니다.

이번 릴리즈는 시스템의 성능과 안정성을 개선하며, 사용자 경험을 더욱 향상시키기 위한 중요한 업데이트입니다.

 

 

ollama/ollama

v0.3.11

https://github.com/ollama/ollama/releases/tag/v0.3.11
이번 릴리즈(v0.3.11)에서는 다음과 같은 주요 변경 사항과 새로운 기능이 추가되었습니다.

새로운 모델

1. Solar-Pro-Preview: 220억 개의 파라미터를 가진 고급 대형 언어 모델로, 단일 GPU에 적합하도록 설계되었습니다.
2. Qwen 2.5: 알리바바의 최신 대규모 데이터셋으로 사전 훈련된 다국어 Qwen 모델로, 최대 18조 개의 토큰을 포함하며 최대 128K 토큰의 컨텍스트 윈도우를 지원합니다.
3. Bespoke-Minicheck: Bespoke Labs에서 개발한 최첨단 팩트 체크 모델입니다.
4. Mistral-Small: 번역 및 요약과 같은 작업에서 비용 효율적으로 사용하기 위해 설계된 경량 220억 모델입니다.
5. Reader-LM: HTML 콘텐츠를 Markdown 콘텐츠로 변환하는 모델 시리즈로, 콘텐츠 변환 작업에 유용합니다.변경 사항

• 새로운 ollama stop 명령어가 추가되어 실행 중인 모델을 언로드할 수 있게 되었습니다.
• 잘못된 토큰 수로 모델을 가져올 경우 오류 메시지가 표시됩니다.
• ollama/ollama 컨테이너 이미지의 시작 시간이 거의 즉시 시작되도록 개선되어 5초 더 빨라졌습니다.
• ollama show 명령어의 출력에서 과도한 공백이 표시되는 문제를 수정했습니다.

 

---

 

이번 주에도 다양한 오픈소스 프로젝트들이 활발히 발전하고 있음을 알 수 있습니다.
여러분이 관심을 갖고 있는 프로젝트들도 이번 릴리즈에서 개선된 부분이 있는지 꼭 확인해 보시길 바랍니다.
오픈소스 커뮤니티의 발전에 기여하는 개발자들에게 감사의 마음을 전하며, 앞으로도 더 많은 흥미로운 소식을 전해드리겠습니다.
읽어주셔서 감사합니다! 다음 주에도 유용한 정보로 찾아뵙겠습니다.