전체 글

https://arxiv.org/abs/2504.13837 Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?Reinforcement Learning with Verifiable Rewards (RLVR) has recently demonstrated notable success in enhancing the reasoning performance of large language models (LLMs), particularly on mathematics and programming tasks. Similar to how traditional RL helps aarxiv.org Abs..

https://arxiv.org/abs/2407.21787 Large Language Monkeys: Scaling Inference Compute with Repeated SamplingScaling the amount of compute used to train language models has dramatically improved their capabilities. However, when it comes to inference, we often limit models to making only one attempt at a problem. Here, we explore inference compute as another axisarxiv.org Abstract. Language Model 을 ..

https://arxiv.org/abs/2605.12474 Reward Hacking in Rubric-Based Reinforcement LearningReinforcement learning with verifiable rewards has enabled strong post-training gains in domains such as math and coding, though many open-ended settings rely on rubric-based rewards. We study reward hacking in rubric-based RL, where a policy is optimizedarxiv.org Abstract. RLVR(Reinforcement Learning with Veri..

https://arxiv.org/abs/2409.12822 Language Models Learn to Mislead Humans via RLHFLanguage models (LMs) can produce errors that are hard to detect for humans, especially when the task is complex. RLHF, the most popular post-training method, may exacerbate this problem: to achieve higher rewards, LMs might get better at convincing humansarxiv.org Abstract. 언어 모델(LMs)은 인간이 감지하기 어려운 오류를 생성할 수 있으며, 특..

https://arxiv.org/abs/2210.10760 Scaling Laws for Reward Model OveroptimizationIn reinforcement learning from human feedback, it is common to optimize against a reward model trained to predict human preferences. Because the reward model is an imperfect proxy, optimizing its value too much can hinder ground truth performance, in accorarxiv.org Abstract. 사람의 피드백을 기반으로 하는 RLHF 에서는, 사람의 선호도를 예측하도록 훈..

https://arxiv.org/abs/2409.11923 Agglomerative Token ClusteringWe present Agglomerative Token Clustering (ATC), a novel token merging method that consistently outperforms previous token merging and pruning methods across image classification, image synthesis, and object detection & segmentation tasks. ATC merges clustarxiv.org Abstract. image classification, image synthesis 그리고 object detection ..

해당 글은 건국대학교 지서원 교수님의 컴퓨터 비전 수업 내용을 정리한 글입니다. Object detection image classification은 입력 이미지 내에 지배적인 객체 하나가 있다고 가정하고 이 사진은 무엇인가? 에만 답합니다. 반면, object detection은 무엇이(classification) 어디에(localization) 있는가? 를 동시에 해결해야 합니다. 즉, 하나의 네트워크 내부에서 이산적인 classification 확률 분포를 계산하는 동시에, object의 공간적 범위를 특정하는 연속적인 좌표계를 추정해야 합니다. object detection은 다음과 같이 공식화할 수 있습니다:input: RGB 이미지output: 탐지된 객체들의 집합각 탐지된 객체들은 다음 ..

해당 글은 건국대학교 지서원 교수님의 컴퓨터 비전 수업 내용을 정리한 글입니다. (Review) Convolution convolution 연산은 입력값의 각 요소를 local neighbors과 함께 묶어 convolution kernel의 가중치로 곱한 뒤 더하는 과정입니다. filter를 입력 위로 sliding 하며 연산합니다. 가중치와 입력 사이의 곱셈 연산을 가중치 벡터와 입력 벡터 간의 dot product로 확장할 수도 있습니다. 위 그림은 1D convolution을 2D convolution으로 확장한 예시입니다. 2D conv는 공간적으로 2D 형태인 이미지 입력을 효과적으로 처리할 수 있습니다. Convolution: interpretation convolition 연산의 결과..