비니에는 텔레마르크 지역의 비니에에서 농민의 아들로 태어났다. 그는 독학으로 공부하며 법률 교육을 받았으나, 주로 글쓰기와 언론 활동에 전념했다. 그는 노르웨이의 두 가지 공용 문자 표준인 부크몰(Bokmål)과 신노르스크 중 신노르스크를 사용하고 옹호한 선구자였다.
1858년, 비니에는 주간지 《되렌(Dølen)》을 창간하고 편집자로 활동하며 당대의 정치, 사회, 문학 문제를 날카롭게 비평하고 신노르스크의 사용을 적극적으로 장려했다. 이 저널은 그가 사망하기 전까지 12년간 발행되었으며, 노르웨이의 지식인 사회에 큰 영향을 미쳤다.
그의 문학 작품은 서정적인 시, 철학적인 성찰, 그리고 통찰력 있는 저널리즘을 결합하는 독특한 스타일을 보였다. 주요 작품으로는 서사시 《스토레구트(Storegut)》(1866)와 여행 에세이집 《1860년 여름의 여행 기억(Ferdaminne frå Sumaren 1860)》(1861) 등이 있다. 특히 《1860년 여름의 여행 기억》은 그의 대표작으로, 노르웨이의 자연과 문화에 대한 깊은 관찰과 유머러스하면서도 비판적인 시각을 담고 있어 오늘날에도 널리 읽히고 있다.
비니에는 노르웨이의 자국어 운동, 특히 신노르스크의 정립과 확산에 중요한 공헌을 했다. 그는 독특한 개인적 스타일과 비판적 사고로 노르웨이 문학과 언어 발전에 큰 영향을 미쳤으며, 노르웨이 현대 문학의 중요한 선구자로 평가받는다.