1878년 여름, 브람스는 오스트리아 뵈르트 호수의 아름다운 마을 푀르차흐에서 휴가를 보내며 교향곡 2번의 성공에 이은 또 다른 대작, 바이올린 협주곡을 작곡하기 시작했다. 그는 이 곡을 40년 지기 절친이자 당대 최고의 바이올리니스트였던 요제프 요아힘에게 헌정했으며, 작곡 과정 내내 요아힘에게 바이올린 파트에 대한 조언을 구하며 긴밀하게 협력했다. 브람스 자신은 바이올린에 익숙하지 않았기에, 그는 친구에게 보낸 편지에서 “바이올린을 위한 작품이 아니라 바이올린을 거스르는 작품이 될까 걱정된다”고 농담을 던지기도 했다.

이 협주곡은 1879년 1월 1일, 라이프치히 게반트하우스에서 요아힘의 바이올린과 브람스 본인의 지휘로 초연되었다. 전통적인 3악장 형식을 취하지만, 그 규모와 깊이는 교향곡에 비견될 정도이다. 특히 1악장은 웅장한 오케스트라의 서주로 시작해 솔로 바이올린이 장대한 스케일의 주제를 이어받으며 장엄한 서사를 펼친다. 요아힘이 작곡한 카덴차 (cadenza, 독주자가 기교를 발휘하는 부분)는 바이올린의 극한 기교를 요구하며, 이후 음악은 더욱 깊은 감정의 소용돌이 속으로 빠져든다.

2악장 아다지오는 오보에의 애수 어린 선율이 인상적인 목가적 아름다움으로 가득하며, 이윽고 바이올린이 섬세하면서도 애절한 노래를 부른다. 그리고 3악장은 활기 넘치는 집시풍의 론도 (Rondo, 특정 주제가 반복되는 형식) 악장으로, 강렬한 리듬과 정열적인 선율이 관현악과 바이올린의 신나는 주고받음 속에서 최고조에 달한다. 브람스는 이 곡을 통해 바이올린이라는 독주 악기가 단순한 기교의 도구가 아닌, 낭만주의 시대의 깊은 인간적 감성과 고전적 형식미를 동시에 담아낼 수 있는 위대한 예술적 매체임을 증명해 보였다.