Vào năm 1836, Mendelssohn được chỉ định làm nhạc trưởng của dàn nhạc Leipzig Gewandhaus, và ông đã chọn Ferdinand David – người bạn thân, đồng thời cũng là một nghệ sĩ vĩ cầm đầy tài năng làm bè trưởng (concert master) của dàn nhạc. Trong một bức thư gửi cho David đề ngày 30 tháng 7 năm 1838 , ông viết: “
Tôi đang rất muốn viết một tác phẩm concerto trong mùa đông này. Khúc dạo đầu của bản nhạc giọng Mi thứ này cứ lởn vởn mãi trong đầu tôi, làm cho tôi không lúc nào được yên”. Tuy nhiên, tác phẩm phải mất đến hơn 6 năm để hoàn thành. Có khá nhiều lý do cho sự chậm trễ này, một trong số đó là bản giao hưởng số 3, vốn được sáng tác xen giữa thời gian này, sau đó là khoảng thời gian không mấy vui vẻ tại Berlin khi Mendelssohn phải phục vụ cho hoàng đế nước Phổ – Frederick William đệ Tứ - trong vai trò nhạc trưởng cung đình. Nhưng có một nguyên nhân đặc biệt, đó là sự e dè, hoài nghi bản thân của chính tác giả. Vì kiểu tác phẩm đòi hỏi sự rực rỡ, phô diễn, nhiều biến hóa này khá xa lạ với phong cách của Mendelssohn – vốn thiên về truyền thống (classical và baroque)
Trong thời gian đó, Mendelssohn vẫn giữ liên lạc với David qua thư từ, trao đổi về nội dung cũng như các chi tiết, kỹ xảo, kỹ thuật cần có của bản concerto này. Có thể nói, đây là bản concerto đầu tiên cho phép người nghệ sĩ biểu diễn tham gia vào quá trình thai nghén, hình thành tác phẩm, tạo một tiền đề tốt cho các bản concerto của các tác giả khác được sáng tác sau này. Nhờ đó, tác phẩm không chỉ vượt qua khỏi cái bóng khổng lồ của Beethoven, mà còn kết hợp được cả tính trữ tình thơ ca của Schubert cùng sự cách tân trong kỹ thuật biểu diễn. Trong đó đáng chú ý nhất là tính liên tục không có đoạn nghỉ giữa 3 chương nhạc, không chỉ vậy, các chương còn tự gắn kết với nhau; sau đó là vai trò chủ động của violin ngay phần đầu tác phẩm, cùng sự biến hóa liên tục của các chủ đề. Có ý kiến cho rằng với sự cách tân này, Mendelssohn đã thay đổi hoàn toàn hình thức concerto cổ điển; đồng thời đưa tác phẩm này trở thành bản concerto đầu tiên theo đúng phong cách lãng mạn.
Tuy nhiên, cũng có ý kiến cho rằng, là một nhạc trưởng, Mendelssohn rất ghét việc khán giả vỗ tay khi kết thúc một chương/ đoạn vào thời đó nên ông đã cố tình viết cho dàn nhạc chơi liền mạch để bà con khỏi vỗ tay !!! Cho nên, văn hoá nghe classical không vỗ tay giữa các đoạn/ chương ngày này có lẽ xuất phát từ Mendelssohn
, chính xác hơn là từ bản Violin concerto huyền thoại này của ông.
Trong buổi công diễn đầu tiên, vì bị ốm nên Mendelssohn không thế chỉ huy dàn nhạc, vai trò nhạc trưởng được trao cho Niels Gade. Trái ngược với sự lo lắng trước đó của Mendelssohn, tác phẩm được đón nhận nồng nhiệt ngay trong lần công diễn đầu tiên, và yêu cầu biểu diễn lần thứ hai ngay sau đó. Khoảng 1 tháng sau buổi biểu diễn lần thứ hai này, theo kế hoạch thì Clara Schumann sẽ biểu diễn bản concerto viết cho piano và dàn nhạc của chồng mình – Robert Schumann tại Dresden. Nhưng thật đáng tiếc, vị bị ốm nên bà đã không thể biểu diễn. Nhạc trưởng của buổi hòa nhạc, Ferdinand Hiller đã thay thế bằng bản concerto cho violin của Mendelssohn. Solist chính là Joseph Joachim – một học trò của David, khi đó mới 15 tuổi. Những tràng pháo tay không ngớt dành cho màn trình diễn tuyệt vời của người nghệ sĩ trẻ chính là một trong những nấc thang đầu tiên đưa ông trở thành một tượng đài vĩ cầm lớn của thế kỷ 19.
Bản concerto của Mendelssohn có ảnh hưởng sâu đậm và truyền cảm hứng cho các thế hệ nhạc sĩ sau đó. Có thể nói, các kỹ thuật, giai điệu, phong cách của tác phẩm này đã trở thành mẫu mực, thường xuyên được các nhạc sĩ khác tiếp thu và phát triển trong các tác phẩm của họ. Thông thường, đỉnh cao của mỗi chương nhạc hầu hết được tạo ra bằng cường độ fortissimo (mạnh mẽ) thì trong bản concerto này, Mendelssohn lại làm cho
những khoảnh khắc quan trọng nhất trong tác phẩm của mình trở nên yên tĩnh nhất. Phần solo mở rộng (cadenza) vốn phải xuất hiện ở cuối một chương, nhưng Mendelssohn đã đặt nó ở bước ngoặt cao trào ngay sau phần giữa. Cũng như sau này, nó được phát triển thành cách đặt đoạn cadenza khác thường trong concerto cho violin của Tchaikovsky (ngay trước hồi kết chương 1) hay đoạn cadenza trong concerto của Sibelius cũng được dùng để kéo dài thêm phần phát triển chủ đề chính....
Cũng từ bản concerto huyền thoại này, các nhà soạn nhạc bắt đầu tự sáng tác các đoạn cadenza, các solist không cần phải ứng tấu như các tác phẩm thời kỳ của Mozart - Beethoven nữa. Thêm vào đó, sự nối tiếp chặt chẽ của 3 chương nhạc cũng cho các nhạc sĩ một cách biểu đạt mới, điển hình là bản concerto số 2 cho piano của Franz Liszt....
Điều này dẫn tới việc violon concerto của Mendelssohn là concerto được mượn ý tưởng nhiều nhất xưa nay.
Năm 1906, trong bữa tiệc sinh nhật lần thứ 75 của mình, Joseph Joachim đã nói:
“…Người Đức có 4 bản concerto cho violin. Bản concerto oai hùng, mãnh liệt nhất là của Beethoven. Mẫu mực nhất là tác phẩm của Brahms. Quyến rũ, du dương nhất là Bruch. Nhưng sâu sắc nhất, từ sâu thẳm trong tâm hồn, là viên ngọc sáng tỏa ra từ trái tim – là bản concerto của Mendelssohn. ..”