创业初尝试
1858年4月，“克拉克——洛克菲勒公司”开业了。这个由两位年轻人创办的公司，从一开始就得到了业界的热情对待。当地的报纸这样写道：“我们建议本报的读者垂顾这两位经验丰富、负责任、交货及时的商人开办的商号。”
公司进展得非常顺利，他们经营谷物、鱼类、水、石灰、奶酪等。他们敢冒风险，同时也获取巨大的利益。这让洛克菲勒更加自信，他认为自己天生就是一块经商的料儿。
不过，商业风险是任何经营者都必须面对的。在“克拉克——洛克菲勒公司”开业两个月之后，就遭遇到了一次惨重的损失。他们和一家农场签订了购买豆子的合同，不巧当地遇上了霜冻，所以，当他们收到货物时，竟然已经坏掉了大半，且里面还掺杂着沙土和废物。
因为这笔豆子生意的失利，使得公司的资金周转一度出现了问题，所以洛克菲勒不得不向父亲求助。虽然他并不想这样做，但为了给自己的客户足够的信心，他们努力塑造一个财力雄厚的形象，让客户相信他们能提供大笔的预付款。
不过，做生意总是有赔有赚，关键要看总体的收益。在克拉克，洛克菲勒公司成立的当年年底，他们就赚了4400美元的利润，这在当时是一笔非常可观的巨款。
为了吸引更多的资金投入，公司于1859年邀请了另一个合伙人加德纳的加入，此人是克拉克先前的同事，也是当地的名门之后，因为加德纳家族在当地具有相当的影响力以及财力，公司由原先的“克拉克——洛克菲勒公司”改名为“克拉克——加德纳公司”。洛克菲勒在公司里的地位明显下降了，其中一个原因就是，他是三人之中年纪最小的一位。
尽管洛克菲勒心里很不满，但他没有表露出来，装出了一副若无其事的样子。他在心里暗暗地说：“别得意，过不了几年，我会做得比你们都出色。”这个不满21岁的小伙子，比起那两个大他10岁的合伙人来，表现得更老到，更成熟。
他告诫自己凡事要小心，不能得意忘形，更不能气急败坏。几乎每天晚上，洛克菲勒都要与心中的上帝对话，这个习惯他保持了一生。他后来曾说：“我敢肯定的是，我与自己的私下交谈，对我的一生产生了很大的影响，我生怕自己承受不了巨大的成功，一再告诫自己不要被任何愚蠢的主意冲昏了头脑。”
洛克菲勒严谨的作为，虽然为他的合伙人所难以接受。但在生意场上，他很快便建立起了极佳的信誉，这让他获益匪浅。客户们都非常信任他，这让他做起生意来容易得多。而且，他这种稳重的作风，在面对新客户时也同样有效。他从不与对手直接争夺客户，而是坚持自己的做法，实实在在地介绍自己的公司。
与刻板、内向的外表不相称的是，洛克菲勒是一个非常善于和人打交道的年轻人。他非常固执，对于自己看中的事情，从不轻言放弃。虽然他曾多次被银行拒绝，但他从不气馁。在公司成长的过程中，实际上是离不开银行的帮助的。
洛克菲勒在谈到自己的发展之路时说：“在我经商的整个过程中，最棘手的问题就是如何得到足够的资本，去做我想做的，有能力做而且只要有足够的钱就能做到的事情。”为了筹措资金，他父亲一度也是他重要的债权人。当然，他最重要的资金来源，还是向银行借贷。
经常与银行打交道的经历，将他锻炼成了一个谈判高手。而对比自己实力雄厚的对手，他表现得诡计多端，而且他往往大造声势，以期获得对方的信任。
1862年，洛克菲勒将加德纳赶出了公司，他对这个出身名门、花天酒地的合伙人早就看不顺眼了。公司的名称重新恢复为“克拉克——洛克菲勒公司”。
1863年，在一个叫安德鲁斯的照明专家的游说下，洛克菲勒和克拉克共同投资4000美元，成立了“安德鲁斯——克拉克公司”，这标志着年仅24岁的洛克菲勒正式进入了石油业。
他们将公司的炼油厂设在金斯伯里的一条小河的岸边，那里离克利夫兰市中心有一英里半的路程。依照洛克菲勒的个性，他是不做则已，一做则全力以赴。他将自己的大部分精力，从贸易公司转移到了炼油厂上面。每天早上6点半，他们都会来到炼油厂的制桶车间，把油桶一个个推出来。
那时的洛克菲勒，不是一个只会躲在办公室里指挥别人的老板，他喜欢自己动手处理一些事情，即使是面对一些在别人眼里微不足道的错误，他也会认真对待，从不马虎。
公司在洛克菲勒的精心打理下，炼油业务取得很大的成功，不到一年，业务量就超过了农产品生意，成为公司最赚钱的业务。
如果说洛克菲勒最初进入石油业是多亏了安德鲁斯的游说的话，而他后来对石油的热情则完全出自于自己的判断。
据他的弟弟威廉后来回忆，由于当时兄弟俩住在同一所房子里，洛克菲勒经常深更半夜地把他推醒问道：“我正在想一件事，想听听你的意见。”
睡梦正酣的威廉对哥哥抗议道：“我想睡觉，有什么事明天再说不行吗？”不过，有时他还是中断睡眠，听洛克菲勒讲他对石油的看法。
同样的情形也常发生在办公室里。洛克菲勒常常对那两个比自己大十多岁的合伙人大谈石油，而他们对洛克菲勒总是言听计从。石油不仅带给洛克菲勒前所未有的巨大成功，也让他从中感受到了乐趣。
就像他早年的一个下属所说的那样：“我唯一看到洛克菲勒充满**的时候，是从油溪传来的消息，说他的买主以远远高于市场行情的价格买下一批石油，他听后兴奋地大叫，一下跳了起来，还拥抱了我，然后又把帽子扔到半空中。那时他差点儿就疯了！真是叫人终生难忘的情景啊！”
随着洛克菲勒对石油兴趣的与日俱增，他与合伙人克拉克的矛盾也日渐变得激烈起来。
从19岁与克拉克合伙成立公司以来，洛克菲勒与克拉克的关系可以说一直都不是十分融洽。起初，克拉克并没有把这个比自己小10岁的合伙人放在眼里。不过，随着洛克菲勒在公司里的地位越来越重要，他不得不在许多方面逐渐依赖起洛克菲勒来。两人的这种微妙关系终于在取得了某种平衡之后，才使得公司没有因为内讧而早早夭折，还取得了很好的发展。
但是，问题仍然摆在洛克菲勒的面前。洛克菲勒意识到，克拉克已经成为自己取得更大发展的绊脚石，如果他想拥有更大的崭露头角的空间，就必须摆脱克拉克对自己的束缚。因为克拉克个性直率、随便，仅就这一点，他就与洛克菲勒格格不入。洛克菲勒对自己的这位合伙人的品行极为看不顺眼，而且对他不敬神灵的态度也大感恼怒。不过，他还是承认，克拉克是一个能干的生意人。
而克拉克对洛克菲勒刻板的个性也不以为然，从一开始，他就把洛克菲勒摆在一个小职员的位置上，让他管账、管钱。不过，他后来终于明白，自己的合伙人拥有远比其年龄更为成熟的商业头脑，这才不敢小觑洛克菲勒。
洛克菲勒在后来谈到与克拉克的这段合作经历时，曾愤愤不平地说：“他几乎从我俩开始合作时就想一个人做主，从不把我放在眼里。当我们讨论买卖上的事情时，他问过我好几次这样的问题：‘要是没有我，你还能做些什么？’这让我感到非常恼火。”
洛克菲勒以他一贯的老谋深算忍受了克拉克对自己的轻视，他认为自己终有一天会好好地报复他，给他致命的一击。
后来，由于公司投资炼油厂，克拉克将自己的弟弟也拉进公司里来。对这兄弟俩的所作所为，洛克菲勒感到十分讨厌。克拉克兄弟虽然在做生意方面很有一套，但他们常常想凭借一时的蒙骗来占便宜，对这种极为短视的行为，洛克菲勒非常不满。他认定，由于这兄弟俩不检点的行为，公司迟早会在客户与银行中丧失信用，而这是无论如何也不能容忍的。
由于当时正处南北战争时期，影响油价的因素非常的多，供求关系随时都可能发生变化，所以根本就无法确定油价到底应该处在哪个价位上才算合理。石油业的巨大利润往往是与其巨大的风险性伴生。不过，剧烈的价格波动并没让洛克菲勒感到气馁，他认定石油业的光明前途是绝不会因为一时的混乱局面而改变的。因此，洛克菲勒与安德鲁斯主张不惜代价地扩大业务，而克拉克兄弟则认为不宜在石油上面投入太多。有一次，洛克菲勒在没有得到克拉克兄弟同意的情况下，向银行举债10万美元以扩大炼油厂的业务。克拉克知道后非常生气，他觉得洛克菲勒这种冒险的做法最终会把自己拖进非常危险的境地。
而洛克菲勒也认为，克拉克兄弟是十足的胆小鬼，他们平时花钱不知节省，可是一旦做一点儿需要冒险的事情时，则把钱财看得过重。这让洛克菲勒感到不快，他认为，如果自己想在事业上取得更大的成功，就必须与一群诚实、值得信赖、与自己想法接近的人合作，而克拉克兄弟显然不符合上述条件。
1865年，洛克菲勒觉得有必要向克拉克兄弟摊牌了，只有清除了意见相左所带来的不利因素，他才有可能在自己认定的事业上没有牵绊地前进。
2月1日，洛克菲勒将几个合伙人请到家里，特意向他们介绍了自己准备大力发展炼油厂的计划——这是克拉克兄弟极为反感的事。
果然，克拉克的反应正如洛克菲勒所料想的那样强烈，他气势汹汹地说：“我们最好分开，各做各的。”这话正中洛克菲勒的下怀。
克拉克本来是用分开公司来威胁洛克菲勒，让他不再拓展炼油业务。但没料到在第二天，洛克菲勒就在报纸上登出了公司拍卖的公告。而且令克拉克兄弟始料未及的是，洛克菲勒未雨绸缪，早已经把安德鲁斯争取过去了。无奈之下，克拉克只得与洛克菲勒商定，几个合伙人谁出价最高，谁最终将得到炼油厂。
洛克菲勒对最终得到炼油厂的所有权抱着势在必得的决心，他临危不乱，十分镇定。那次拍卖是由克拉克兄弟请来的律师主持，炼油厂的底价为500美元，不过很快双方的报价就达到5万美元。这已经是一个相当高的数位了，远远超出了炼油厂实际的价值。后来，洛克菲勒在自己的回忆录中详细地记录了当时的情景：
“最后价格升到了6万美元，又一步步升到了7万美元。我开始担心自己能否真的买下这个企业，能否筹到那么多钱。最后，当对方报价达到了7.2万美元时，我毫不气馁地报了7.25万美元。这时，克拉克先生说：‘我放弃了，约翰，炼油厂归你了。’我提议立即开支票给他，不过克拉克先生说：‘不用了，我很乐意将炼油厂托付给你，在你方便时我们再结账也不迟。’”
在那次拍卖会上，洛克菲勒虽然如愿以偿地获得了自由，但最终却为此付出了巨大的代价。他用自己在代理公司的一半股份及7.25万美元，换来了对炼油厂的完全控制权。
对洛克菲勒一生的事业而言，这是一个重要的转折点。他在26岁时，拥有了克利夫兰最大的炼油厂。同时，他将长期以来与自己处处为难的对手，毫不留情地从自己的事业中抹掉了。
清除了脚下的羁绊后，洛克菲勒把颇有商业才能的弟弟威廉请来帮助自己打理生意。1865年12月，洛克菲勒和安德鲁斯开了第三家炼油厂，由弟弟威廉担任总裁。洛克菲勒热情不减，他每天都会出现在工厂里。他背着双手，巡视着自己亲手打造出来的王国。哪怕是看到了一丁点儿不满意的地方，他也会立即叫人改善，直到一切都无可挑剔为止。
洛克菲勒尽管在事业上蒸蒸日上，但他心里明白，任何一个成功的企业家是不可能靠自己单独的力量取得巨大的成功的，他需要一个与他思想接近、支持他并心甘情愿做他的副手的人。
虽然弟弟威廉对他忠心耿耿，但他仍需要借助外来的力量，将事业往前推进。洛克菲勒这个希望真的如愿以偿了，他很快便遇见了事业上的知己。此人名为亨利·莫利森·弗拉格勒，比洛克菲勒年长9岁，他性格活泼，精力旺盛，同时对自己的想法和身世都讳莫如深。亨利与洛克菲勒性情不同，各有擅长，但他们能彼此欣赏，成为一对互补型的事业伙伴。
亨利认为建立在生意上的友情胜过建立在友情上的生意。对此洛克菲勒相当赞赏，他们的友情就是在共同的生意中建立并深入发展的。他们一起上下班，一起回家吃午饭，再一起回公司，晚上又一起回家。他们经常一边走路一边讨论公司里的事。
在办公室里，他们相背而坐，共同处理事情，甚至于共同撰写同一封商业信函，然后再交换初稿，做一些细小的改动，直到双方都满意为止。能遇到这样的朋友与合作者，对洛克菲勒而言，比赚到一大笔钱更有意义，而且，亨利给洛克菲勒带来的，还远不止这些。
由于庞大的资金需求，洛克菲勒已经从银行借贷了大量款项。但他对靠这种借贷的状况并不满意，于是将眼光投向了个人投资者。
南北战争结束后，出现了一大批暴发户，这些人手里拥有可观的资产和现金，他们正在寻找有利可图的项目。经过亨利的介绍，洛克菲勒从当地富豪斯蒂芬·哈克尼斯那里获得了投资。此人在战争期间靠囤积货物发了大财。由于对亨利的特殊信任，哈克尼斯同意投资10万美元，而且并不要求洛克菲勒以货物作为抵押。
他的条件是让亨利作为自己的监督人，出任公司的财务主管。这当然是洛克菲勒求之不得的。由于哈克尼斯的帮助，洛克菲勒与银行、铁路、矿业等行业的业务联系更进了一步。
有了亨利的加盟与协助，洛克菲勒如虎添翼。他们两人都雄心勃勃，绝不满足于眼前的小小成就，都想着尽可能地利用各种资源，将企业尽快发展壮大。
洛克菲勒从这个新合伙人身上获益匪浅，亨利的乐观与热情，深深地影响了洛克菲勒。在以后的几十年里，他们一直保持着极佳的合作与友情，这与洛克菲勒以前几个合伙人的关系完全不同。有人说，对洛克菲勒而言，亨利·莫利森·弗拉格勒是上帝的礼物。
石油从开采、提炼到使用，其间往往要经过长途运输。可以说，运输一直是制约石油开采业的一个瓶颈。如今，世界各国都建立了高效的输油管道，通过四通八达的网络将原油源源不断地输出。可是，如今的人们一定很难想象，在100多年前，曾经有过怎样一段利用马车运送原油的历史。不过，在马车运输之后的很长时间里，一直是由铁路公司主宰着石油的运输。
洛克菲勒创业的克利夫兰市地处交通枢纽，铁路四通八达，这让洛克菲勒在与铁路公司的谈判中多了一些筹码。洛克菲勒和弗拉格勒运用高超的技巧和才智，不断迫使铁路公司降低价格。当时，经过克利夫兰市的铁路主要有三条：纽约中央铁路、伊利铁路、宾夕法尼亚铁路。洛克菲勒利用其高超的商业技巧，以最优惠的价格让铁路公司运送自己的石油。
当时，在克利夫兰市的石油运输业里，宾夕法尼亚铁路公司占有垄断性的地位，由于其铁路通往重要的开采基地——匹兹堡，该公司便利用其优势，向匹兹堡的各炼油厂索取高额的运费。
为了巩固自己的霸主地位，宾夕法尼亚铁路公司利用各种手段，来削弱克利夫兰市的炼油中心地位。他们声称，克利夫兰市的地位将被匹兹堡所取代。
这种说法一度引起了极大的恐慌，许多炼油厂的老板甚至想到搬迁工厂。不过，洛克菲勒一向头脑冷静，他一眼就看穿了宾夕法尼亚铁路公司打击竞争对手的目的。他认为，自己能很好地利用这次机会，把坏事变成好事。
洛克菲勒和弗拉格勒在与中央铁路公司的谈判中，得到了比宾夕法尼亚公司给客户开出的运费折扣更为优惠的价格。他们巧妙地把自己的劣势变成了优势。
当然，洛克菲勒与弗拉格勒并非是一味地用宾夕法尼亚公司来威胁这两家公司并逼迫他们降价的，而是提出了十分诱人的条件作为回报。他们承诺向铁路公司提供每天60车次的惊人运量。
以当时洛克菲勒的炼油厂的产量而言，他远不能提供如此之高的货运量。不过，他认为通过和本地其他炼油厂的协调，他一定能满足自己向铁路公司开出的运量。就这样，洛克菲勒让每桶油的运费从2.4美元降到了1.5美元。
虽然很多人对洛克菲勒的做法不满，但不可否认的是，无论是克利夫兰市的炼油厂还是铁路公司，都从这笔交易中获益匪浅。铁路公司获得了稳定的运量，降低了运输成本，进而增加了收益。而炼油厂从降低的运费中得到了直接的实惠。
由于与铁路公司的协定，使得克利夫兰市很快超过匹兹堡而成为主要的炼油中心。而洛克菲勒作为年轻的石油大亨，也奠定了无人能够撼动的重要地位。