๐Ÿค— Evaluate GitHub โ€” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์ €์žฅ์†Œ์™€ ๊ธฐ์—ฌ

๐Ÿค— Evaluate GitHub

๐Ÿค— Evaluate๋Š” Hugging Face๊ฐ€ ๊ด€๋ฆฌํ•˜๋Š” ๋ชจ๋ธยท๋ฐ์ดํ„ฐ์…‹ ํ‰๊ฐ€ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์˜ˆ์š”. GitHub ์ €์žฅ์†Œ์—์„œ ์†Œ์Šค ์ฝ”๋“œ์™€ ํ•จ๊ป˜ ์„ค์น˜ยท์‚ฌ์šฉ ๊ฐ€์ด๋“œ๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ถœ์ฒ˜: https://github.com/huggingface/evaluate

๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ํŠน์ง•

  • ๋‹ค์–‘ํ•œ ๋„๋ฉ”์ธ(NLP, CV, ๊ฐ•ํ™”ํ•™์Šต)์˜ ์ˆ˜์‹ญ ๊ฐ€์ง€ ํ‰๊ฐ€ ๋ฐฉ๋ฒ•
  • ํ•œ ์ค„(evaluate.load())๋กœ metricยทcomparisonยทmeasurement ๋กœ๋“œ
  • ๋กœ์ปฌยท๋ถ„์‚ฐ ํ•™์Šต ์„ค์ •์—์„œ ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ํ‰๊ฐ€
  • ๊ฐ metric์€ Hugging Face Hub์˜ Space๋กœ ์ œ๊ณต๋˜๋ฉฐ ์œ„์ ฏยท๋ฌธ์„œ ์นด๋“œ ํฌํ•จ

๊ด€๋ จ ํ‰๊ฐ€ ๋„๊ตฌ

Hugging Face Hub์˜ ์ตœ์‹  ํ‰๊ฐ€ ์ ‘๊ทผ์€ LightEval ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋„ ์ฐธ๊ณ ํ•  ์ˆ˜ ์žˆ์–ด์š”. LightEval์€ LLM ํ‰๊ฐ€์šฉ์œผ๋กœ ์„ค๊ณ„๋˜๋ฉฐ ํฌ๊ด„์ ์ด๊ณ  ์ปค์Šคํ„ฐ๋งˆ์ด์ฆˆ ๊ฐ€๋Šฅํ•ด์š”.

๊ธฐ์—ฌ

๋ฒ„๊ทธ ๋ณด๊ณ , ์ด์Šˆ ์ œ์ถœ, ํ’€ ๋ฆฌํ€˜์ŠคํŠธ๋กœ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ๊ฐœ์„ ์— ์ฐธ์—ฌํ•  ์ˆ˜ ์žˆ์–ด์š”.

๋” ์•Œ์•„๋ณด๊ธฐ