শ্রীরামপুর রাজবাড়ী র গোস্বামী পরিবারটির শ্রীরামপুরে আগমন ও বসবাসের সূত্রপাত শেওড়াফুলি রাজের হাত ধরেই। সোড়াপুলি বা শেওড়াফুলি রাজপরিবার বাঁশবেড়িয়া রাজ-পরিবারের প্রসারিত শাখা। শেওড়াফুলি রাজপরিবারের প্রতিষ্ঠাতা ছিলেন রাজা মনোহর চন্দ্র রায়। তাঁর পুত্র রাজা রাজচন্দ্র রায় ১৭৫২-৫৩ সাল নাগাদ শেওড়াফুলির পাশেই শ্রীপুর গ্রামে একটি শ্রীরামচন্দ্রের মন্দির নির্মাণ করেন। শ্রী রামচন্দ্র জীউর এই মন্দিরটির সূত্রেই পরে শ্রীপুর, গোপীনাথপুর এবং মোহনপুর গ্রাম তিনটি সংযুক্ত করে গোটা জায়গাটির নাম দেওয়া হয় শ্রীরামপুর। শ্রীরামপুরের খ্যাতির একটি দিক যদি হয় কেরি সাহেবের ছাপাখানার কারণে, তাহলে অন্যটি অবশ্যই ড্যানিশ বা দিনেমার উপনিবেশ হিসেবে। ১৭৫৫ সালে ড্যানিশরা বাঙলার নবাব আলিবর্দী খাঁর থেকে এক লক্ষ ষাট হাজার সিক্কার বিনিময়ে শ্রীরামপুরে বাণিজ্যকুঠি স্থাপন ও বসবাসের অনুমতি পায়। ড্যানিশ সম্রাট ষষ্ঠ ফ্রেডেরিকের নামে তারা শ্রীরামপুরের নাম বদলে রাখে ফ্রেডেরিকনগর। ১৭৫৫ থেকে ১৮৪৫ খৃষ্টাব্দ পর্যন্ত ড্যানিশরা শ্রীরামপুরে ছিল।
এরপর শ্রীরামপুর চলে যায় ব্রিটিশদের হাতে।ড্যানিশদের চেষ্টায় শ্রীরামপুর শহরটির বিশেষ উন্নতি ঘটেছিল। পরবর্তীকালে এই শহরের উন্নতিতে যাঁদের ভূমিকা অপরিসীম তাঁদের মধ্যে অন্যতম শ্রীরামপুরের প্রাচীন জমিদার গোস্বামী পরিবার। গত সাত পুরুষ যাবৎ শ্রীরামপুরে বসবাসকারী এই গোস্বামী পরিবারের ইতিহাস সন্ধান করতে গেলে আমাদের ফিরে যেতে হবে বর্ধমান জেলায় ভাগীরথীর পশ্চিম তীরের পাটুলি গ্রামে। অষ্টাদশ শতকের চল্লিশের দশকের কথা। বাঙলার নবাব তখন আলিবর্দী খাঁ। এই সময়ে পাটুলিতে বাস করতেন গৌড়ীয় বৈষ্ণব সাহিত্য ও চৈতন্য দর্শনের বিখ্যাত শাস্ত্রজ্ঞ পণ্ডিত শ্রী লক্ষ্মণ চক্রবর্তী। লক্ষ্মণ চক্রবর্তীর বিবাহ হয় নদীয়ার শান্তিপুরের গোস্বামী বংশীয় দ্বিগ্বিজয়ী পণ্ডিত ভীম তর্কপঞ্চাননের কন্যার সাথে। ভীম তর্কপঞ্চানন ছিলেন শ্রী চৈতন্য মহাপ্রভুর পার্ষদ শ্রী আচার্য অদ্বৈত গোস্বামীর বংশধর। পরবর্তীকালে লক্ষ্মণ চক্রবর্তীর পুত্র রামগোবিন্দ তাঁর মাতামহের কাছে বড় হন, সেখানেই ভাগবত শাস্ত্রে দীক্ষিত হন, এবং আরও পরে শিষ্যদের দীক্ষা দান করে ‘গোস্বামী’ পদবী গ্রহণ করেন।
শোনা যায়, একবার রামগোবিন্দ গোস্বামী তাঁর গর্ভবতী স্ত্রীকে নিয়ে নৌকা করে শান্তিপুর থেকে কোলকাতার দিকে যাচ্ছিলেন। নৌকা শ্রীরামপুরের কাছে এলে রামগোবিন্দর স্ত্রীর প্রসব–বেদনা উপস্থিত হয়। নৌকা তীরে ভেড়ানো হলে রামগোবিন্দর স্ত্রী এক পুত্রসন্তানের জন্ম দেন। এই সময়ে শ্রীরামপুর ছিল শেওড়াফুলির রাজাদের অধীনে এবং ঘটনাচক্রে শেওড়াফুলি ছিল পাটুলির রাজাদের কাছারি বাড়ি। শেওড়াফুলি রাজ দানধ্যানের জন্য বিখ্যাত ছিলেন। তাঁর রাজত্বে পরমভাগবত শ্রী রামগোবিন্দ গোস্বামীর পুত্রসন্তান ভূমিষ্ঠ হয়েছে শুনে তৎকালীন রাজা মনোহর রায় ঐ সম্পত্তি রামগোবিন্দকে দান করতে উদ্যত হন। ব্রাহ্মণ রামগোবিন্দ সেই দান গ্রহণ করতে অস্বীকার করলে একটি কড়ির বিনিময়ে সেই সম্পত্তি শেওড়াফুলি রাজের থেকে কিনে নেন। এভাবেই পাটুলির লক্ষ্মণ চক্রবর্তীর পরিবার ভাগ্যচক্রে এসে উপস্থিত হল শ্রীরামপুরে।
রামগোবিন্দ গোস্বামীর দুই পুত্র – রামগোপাল এবং রাধাকান্ত। রাধাকান্তর তৃতীয় পুত্র রামনারায়ণ ইস্ট ইন্ডিয়া কোম্পানির আসাম প্রদেশের দেওয়ান ছিলেন। শোনা যায়, গৌরীপুর, বিজনী, বসরীপাড়া প্রভৃতি জায়গার জমিদারদের সনন্দে রামনারায়ণের দস্তখত ছিল। রাধাকান্তর কনিষ্ঠ পুত্র হরিনারায়ণ অষ্টাদশ শতকের সত্তরের দশকে শ্রীরামপুরে ড্যানিশ ইস্ট ইন্ডিয়া কোম্পানিতে দেওয়ানের কাজ করতেন। ঠিক এই সময়ে ইংল্যান্ডের সঙ্গে ফ্রান্স ও হল্যান্ডের বাণিজ্য-যুদ্ধ চরম আকার ধারন করার ফলে এইসব দেশের রণতরীগুলি ব্রিটিশদের বাণিজ্য তরীগুলিকে মাঝসমুদ্রে লুঠ করতে শুরু করে। ফলে ভারত থেকে যে বিপুল পণ্যসামগ্রী ইংল্যান্ডে রপ্তানি হত তাতে ধাক্কা লাগে। এই সময়ে শ্রীরামপুরের ড্যানিশ বা দিনেমাররা চড়া দামে ব্রিটিশদের পণ্যসামগ্রী নিজেদের জাহাজে করে পৌঁছে দিতে রাজি হয়।
ই সঙ্গে ব্রিটিশ প্রাইভেট ট্রেডারদের ব্যক্তিগত বাণিজ্য পণ্য ও অর্জিত বা লুঠ করা সম্পদ ব্রিটিশ সরকারের চোখ এড়িয়ে ইংল্যান্ডে পৌঁছে দেওয়ার প্রয়োজন হত, যে কাজে ড্যানিশরা তাদের সাহায্য করত। ফলে মাত্র নয় মাসের মধ্যে দিনেমাররা অন্তত বাইশটি জাহাজে করে মোট দশ হাজার টন পণ্যসামগ্রী শ্রীরামপুর থেকে ইংল্যান্ডে নিয়ে যায় এবং খুব অল্প সময়ের মধ্যেই প্রভূত লাভের মুখ দেখে। স্বাভাবিকভাবেই হরিনারায়ণও এই সময় বহু অর্থ উপার্জন করেছিলেন। এই সময়েই তিনি আরও বেশ কিছু জমিদারি সম্পত্তি ক্রয় করেন এবং গোস্বামীদের গৃহদেবতা শ্রীশ্রী রাধামাধব জীউ-এর প্রতিষ্ঠা হয় এবং রাসমঞ্চ ও স্ত্রী–পুরুষের পৃথক স্নানঘাট ইত্যাদি নির্মিত হয়।
রামনারায়ণের পুত্র রাজীবলোচন বর্ধমানে সমুদ্রগড়ের দেওয়ানি পদে অধিষ্ঠিত থেকে বহু অর্থ ও প্রতিপত্তি অর্জন করেন। কলকাতার অভিজাত সম্প্রদায়ের মধ্যে রাজীবলোচনের বিশেষ সমাদর ছিল। অন্যদিকে হরিনারায়ণের পুত্র রঘুরাম কলকাতার বিখ্যাত জন পামার কোম্পানির অধীনে মুৎসুদ্দির কাজ করে বিপুল অর্থ উপার্জন করেন। ১৮৩২ সালে জন পামার কোম্পানি উঠে গেলে বহু লোক সর্বস্বান্ত হয়। কিন্তু শোনা যায়, জন পামার নিজে আগে থেকে রঘুরামকে এই ঘটনার ইঙ্গিত দেওয়ায় রঘুরাম তাঁর সম্পত্তি বাঁচাতে সক্ষম হন। প্রিন্স দ্বারকানাথ ঠাকুর প্রতিষ্ঠিত ইউনিয়ন ব্যাঙ্কেও রঘুরামের প্রচুর টাকার শেয়ার ছিল। আশ্চর্যজনকভাবে এই ইউনিয়ন ব্যাঙ্কও বন্ধ হয়ে যায়, কিন্তু এক্ষেত্রেও রঘুরাম ব্যাঙ্ক বন্ধ হবার আগেই নিজের সমস্ত শেয়ার বিক্রি করে দিতে সমর্থ হন।
এভাবে দু’বার তিনি ভাগ্যক্রমে আর্থিক ক্ষতির হাত থেকে রক্ষা পান। রঘুরাম গোস্বামী এত বিপুল পরিমাণ অর্থের মালিক হয়েছিলেন যে ১৮৪৫ সালে ড্যানিশ সরকার শ্রীরামপুরের উপনিবেশ বিক্রি করে দিতে চাইলে রঘুরাম বারো লক্ষ টাকার বিনিময়ে তা কিনে নিতে চেয়েছিলেন। শেষ পর্যন্ত ব্রিটিশ ইস্ট ইন্ডিয়া কোম্পানি রঘুরামের দেওয়া মূল্য থেকে এক লক্ষ টাকা বেশী দিয়ে তেরো লক্ষ টাকায় ড্যানিশদের থেকে শ্রীরামপুর কিনে নেয়। বর্তমানে শ্রীরামপুরের গোস্বামী পরিবারের আর্থিক প্রতিপত্তির মূল স্থপতি রঘুরাম গোস্বামী। তিনি তাঁর পৈতৃক ভদ্রাসনের কাছেই নিজের একটি প্রাসাদ নির্মাণ করেন।
রঘুরাম গোস্বামীর পৌত্র কিশোরীলাল জন্মগ্রহণ করেন ১৮৫৬ খৃষ্টাব্দের কার্তিক মাসে। তিনি কলকাতা বিশ্ববিদ্যালয় থেকে সসম্মানে এম–এ, বি–এল পরীক্ষায় উত্তীর্ণ হয়েছিলেন। জমিদারী পরিচালনায় তিনি বিশেষ সুদক্ষ ছিলেন। কলকাতা হাইকোর্টে ওকালতির কাজ করে তিনি বহু অর্থ উপার্জন করেন। কিশোরীলাল ‘রায় বাহাদুর’ উপাধি প্রাপ্ত হন এবং পরবর্তীকালে বাঙ্গালা গভর্নরের শাসন–পরিষদের সদস্য হয়ে ‘রাজা’ উপাধি লাভ করেন। প্রসঙ্গত উল্লেখ্য, তিনিই বাঙ্গালা শাসন–পরিষদের প্রথম ভারতীয় সদস্য। তিনি ‘রাজা’ উপাধি লাভ করার পর থেকেই রঘুরাম নির্মিত প্রাসাদ ‘রাজবাড়ি’ নামে খ্যাত হয়।