因为东北远离国际贸易主航道，且地缘环境极为封闭，看似有大型良港（大连），但本质上是一个高度内陆化的地区，再加上经济活动成本高，所以发展不起来。
这里要说一下，资源丰富≠资源利用成本低，很多人脑子里对资源这个概念的认知其实是基于一种来自于即时战略游戏的简单模型，即某地有水晶，有燃气，那我在这里开个分基地，就可以起工厂，造兵，然后框框A，然后看到东北这个既有水晶又有燃气的地方不仅没能框框A，还日渐败落下去，就感到大惑不解。
就以你提到的大庆石油为例，照理来说，大庆有石油，那按照上面那种即时战略游戏式的模型，我只要卖石油，不就可以过上中东产油国纸醉金迷的日子了吗？
然而并不是，因为在现实世界中，石油的开采和运输是有成本的，石油的品质是分三六九等的，为什么中东产油国可以纸醉金迷而大庆不行，原因很简单，因为大庆石油的开采成本比中东产油国高很多，大庆石油运输到中国东南沿海炼油厂的成本比中东石油运输到中国东南沿海炼油厂的成本高，大庆石油的品质远远逊色于中东产油国的优质轻质原油，所以，包括中国东南沿海的炼油厂在内，全世界都热衷于从中东买石油，而不是大庆，所以中东可以纸醉金迷而大庆不行。
上面三条拆开来说，先说采油成本，复杂的就不说了，简单来说，中东的石油开采成本之低，超越很多人的想象，低到什么地步呢？低到中东国家实际上是世界上最希望原油价格下跌的国家，这是非常反直觉的，因为原油价格大幅下跌后，会低于世界上绝大多数产油地区的开采成本，但仍然高于中东的开采成本，其它地区卖一桶亏一桶，而中东产油国仍然有得赚，这样一来中东就可以凭借低价优势垄断全球的原油供应。
顺便一提，世界上最大的产油国是美国，但美国的石油产业也经常亏本。
中东有些地区，那真是一根管子插进去就往外冒油，石油开采难度低到连文盲都能打油井，而中国呢？中国的很多油田的开采难度之大，开采成本之高，已经到了倒逼中国的原油开采技术稳居世界前列的地步，中国开采原油的高超手艺，就像中国处理牲畜下水的高超手艺一样，是资源条件的恶劣倒逼出来的，手艺越高超，综合成本越高。
然后说运输成本，当代人类文明的核心物流方式是海运，当代人类文明的核心物流方式是海运，当代人类文明的核心物流方式是海运，重要的话说三遍，并且加粗加黑，请把这句话当作太阳东升西落和万有引力一样的基本规律死死刻在脑子里，把它当作思想钢印，记一辈子，不要问，盲信就完事了，海运为什么成为核心物流方式？因为便宜，便宜到什么地步呢？简单来说，把同样数量的原油从大庆陆运至宁波所花费的成本，是从沙特海运至宁波的十几倍甚至几十倍，如此之大的成本差距，已经令对价格问题的讨论事实上失去了任何意义。
然后说原油品质，原油不是标准工业品，而是原材料，它分三六九等，中东轻质原油的品质之高，唯有英国北海布伦特油田的轻质原油可与之相提并论，堪称油上油，那么原油品质对石油产业的收益影响有多大呢？简单来说，和很多人脑子里的刻版印象不同，世界上原油储量最大的国家并不是中东产油国，而是委内瑞拉，但中东产油国可以纸醉金迷，委内瑞拉不行，委内瑞拉甚至是个叮当烂响的穷国，原因就在于委内瑞拉的石油开采成本也很高，且品质极其低劣，委内瑞拉开采出来的原油，按沙特的标准来说只能叫沥青。
为什么我重点谈石油呢？因为石油是东北各项资源条件的一个缩影，东北的资源储量大，品类丰富，但由于开采成本高，运输成本高，品质不行，导致东北的资源产业不具备竞争力，不光石油，其它资源也一样，比如铁矿，澳大利亚的铁矿石开采成本极低，就像沙特的石油一样，他们的铁矿几乎就直接暴露在地表，开着挖机直接挖土，然后倒进货斗里，就是一车一车的高品位铁矿，而中国的铁矿呢？需要钻进矿洞，寻找矿脉，开采矿石，还得和没用的矿渣分拣开来，我们是钻坑挖矿，他们是挖土，你说这成本怎么比？
就算这么精工细作了，开采出来的矿石品位还远远不如澳大利亚，甚至于我们的矿石以澳大利亚的标准来看，只能算矿渣，就像委内瑞拉的石油之于沙特阿拉伯只能算沥青是一个道理。同样的，把一船铁矿石从澳大利亚海运到上海，其成本也远远低于把东北的铁矿从东北运到上海。
东北的煤炭也这样，只是东北的煤炭是被山西的无烟煤海给淹没掉的。
这还没算东北高纬度气候条件下经济活动中的气候成本和生产条件的维护成本。
说完了资源，说地缘，上面我已经强调过了，海运是当代人类文明的核心物流方式，这导致了当代人类社会的主要经济活动都高度围绕海运航线开展，一个地区的经济水平，与这个地区和国际贸易主航道的距离刚性挂钩，距离越近，经济水平往往越好，因为距离近，可以让这个地区以极低的物流成本获取原料/输出商品，成本优势是经济活动的命脉，低成本永远等于大优势，而很多时候，同一种商品之间的成本差异，往往以物流成本的形式表现出来，物流成本反应了商品的时空属性，而由于经济的全球化和原料供应的复杂化，这种成本通常是叠加的，时空是宇宙的主要维度，你可以不给其他人面子，但时空的面子你要给，毕竟人不能和宇宙斗。
东北最大的问题是它远离国际贸易主航道，它的地缘条件实际上是高度内陆化的，它虽然有品质非常好的港口（大连），但大连只是品质好，实际区位条件只能说一般，因为物流以密度为纲，而密度以区位为本，航道红利是越居中越丰厚，越末端越贫瘠，而大连虽然自身条件好，但它位于国际贸易主航道的末端，而非最精华的中端，所以只能吃到这种航运红利的极小一部分，但仅仅是这么极小的一部分，就已经算是东北经济的精华地带了。这与俄罗斯广大内陆的贫瘠和黑海，波罗的海沿海地区是俄罗斯经济活动的精华地带是异曲同工的关系，俄罗斯的波罗的海和黑海沿海地区，也是居于国际贸易主航道的末端，只能吃到一点点航运红利，但仅仅是这么一点点航运红利，就足以让它成为精华地带了，某种意义上说，大连之于东北，类似于索契之于俄罗斯，而广大的东北内陆，就成了类似于西伯利亚一样的存在。
你看，凡是海运航道经过的地方，是全世界最膏腴的地方，除了西非，因为那些地方人居环境太过恶劣，连吃红利的资格都没有。
最后说一下东北的产业基础，东北的老工业基地这个基础，其实是特殊历史时期特定历史条件下的产物，东北的产业基础，实际上始自于沙俄和日本的殖民占领时期，对于中国来说，东北不算是经济精华地带，精华地带是站在航运线最肥沃的中间部分的东南沿海，但是对于中国来说不甚精华的东北，对于沙俄来说已经是梦寐以求的流奶溢蜜之地了，因为众所周知，如果凡间有冰冻地狱，那么一定在西伯利亚，如果冰冻地狱在地下，那么西伯利亚与之齐名，所以俄罗斯帝国在对东北进行殖民占领之后，立即迫不及待的对东北进行工业投资，希望在远东再造一个黑海/波罗的海经济精华地带。
而日本的情况比较特殊，日本是把东北当作入侵华北的跳板，为此它扶持了奉系军阀，而奉系军阀基于军阀混战的需要，在日本的扶持下通过对农业剩余物资的刮削，对东北进行了工业投资，特别是军工业投资，甚至搞出了中国历史上的第一艘航母，这种不以赚钱为目的的军工业投资，是基于特殊政治利益进行的，并非严格意义上经济活动。
中国第一艘航母，东北军水上飞机母舰镇海号
而日本殖民东北后，接手了沙俄和奉系军阀经营过的工业基础，其主要目的是就近为它对华北的侵略供应后勤，这也不是严格意义上的经济活动，另外，日本对东北的殖民开拓还有一个重要目的是解决本土的粮食供应问题，也就是关东开拓团，但由于日本人经营水平菜的抠脚，关东开拓团不仅没能产出剩余粮食供应本土，反而年年出现粮食缺口，要从本土调粮去补缺，搞殖民搞出本土向殖民地调粮，日本的蠢笨可见一斑
后来日本战败，苏联拆解了相当一部分东北工业设备运回苏联，使东北的工业基础遭受了严重破坏，这个破坏严重到什么地步呢？东北工侨善后联络处在1946年冬组织工作组，对东北工业因苏联拆解设备所导致的损失情况进行了详尽调查，损失程度以恢复原状估计，损失额折合为美元，以珍珠港事件前10年美元与旧日元的汇率和1934到1945的10年中机器和材料的物价指数折算，总损失为12.4亿美元，但占东北工业企业三分之一的日本陆军企业并未包括统计之内，否则超过20亿美元，注意，这可不是现在无限QE的绿纸，而是那个年代真的可以兑换黄金的美元。
实际上到这个时候，东北的工业基础已经被搞的七零八落了，但就算是这么点七零八落的工业，已经是当时全国最大的工业区，那段岁月是东北的高光时刻，四野的天兵从寒带到热带，从东北到海南，砸穿了半个地球，后来全国解放后，东北又用自己的粮食和工业品养活了一穷二白，赤地千里的半个新中国，随后连续爆发的两场大规模战争，抗美援朝，国内剿匪战争，东北的工业和农业成了支撑新中国打赢这两场战争的关键支柱，但要注意，这时候的经济环境其实也是非常特殊的，因为这属于战时经济，或者叫动员经济，在战时经济的环境下，东北资源门类丰富，储量大的优点被极大放大，而开发成本高，经济活动养护成本高的缺点被掩盖了，再加上抗美援朝的主战场和东北的地理位置直接相邻，物流成本被一定程度上忽略，由此东北爆发出了巨大的潜力。
当时东北撑起了中国的半壁江山，以至于时任东北局书记高岗曾经说过，“东北关起门来就是共产主义”，此话引起中央震怒，后来高岗被调到中央脱离地方就与此有关。
战争结束后，东北工业再次进入了一个蓬勃发展期，苏联出售了156个工业项目，注意，这156个工业项目通常被说成是“援建”，这是错误的，因为这156个项目并非苏联援助，而是我们购买的，我们是付了钱和物的，而且不是印度那种赖账式购买，是公平交易的。
这156个购买来的项目中，相当一部分落户于东北，比如一汽，比如鞍钢，比如吉化，比如沈飞，另外，这156个项目中落户于东北的项目，很多并非白地起高楼，而是在原有工业基础上搞出来的，比如渤海造船厂，比如抚顺和埠新的煤矿。
此后是东北工业的黄金年代，那个年代的东北经济极度发达，以至于中国很多其它地区在工业化之后形成的生活习惯在东北很早就形成了，比如烧煤气，南方有些地区90年代才通煤气。那个年代东北的繁荣和发达，已经到了和中国的其它地区近乎于平行世界的地步了，我一个亲戚出身于南方某省，早年参加革命，后来随志愿军入朝，战后驻扎在东北，老一辈亲戚当时对他羡慕的不得了，后来“一号令”下达后，他复员后随部队疏散至南方某省，当时他对这事情绪一度很大，认为这是要他哪儿来的回哪儿去，后来东北衰败了，他回到的南方老家又飞黄腾达起来，现在他一提起此事就唏嘘不已，心里既有对命运阴差阳错的窃喜，又有对东北衰落的难过，他已经把东北当作第二故乡了。
那么那段时间东北为什么会兴旺呢，原因大概是两个方面，一方面，苏联出售156个项目时出于节约成本考虑，除部分项目被中央安排到其它省份外，其余很大一部分项目被安排到工业基础相对较好的东北，既有就近考虑，也有沿袭既有工业布局规划的考虑，这里要说一下，工业是需要规划布局的，工厂不能瞎鸡巴建，不是有地就完事了，东北的工业布局最早是俄罗斯帝国规划的，旧日本帝国接手，新中国又接手后，除了部分调整外，总体而言基本上沿袭了当年俄罗斯帝国规划的工业布局，俄罗斯帝国的工业布局以今天的眼光来看其实也属于菜的抠脚水平，比如当时东北号称共和国长子，而156个项目中的第一重型机器厂号称东北长子，毛子在为一重选址的时候就选了齐齐哈尔的富拉尔基区，原因也很简单，这地方靠近中东路，毛子图方便就定在这儿了，然而这地方没有铁，只有煤，机械厂必须靠近钢铁厂，这是工业布局的基本原则，然而毛子没脑子，就图方便就建在这儿了，结果导致金属材料得从鞍山拉过来，这种弱智规划是怎么做出来的，我至今都想不明白。
但在当时已经没有比它更好的工业布局了，所以东北依托靠近苏联的优势，承接了巨量工业项目，由此发达起来，这事实上某种程度上是复刻了俄罗斯帝国殖民东北带来东北工业化的局面。
另一方面，当时的中国总体而言是一个内向型经济，对外贸易规模不大，没有接入世界经济市场，这导致海外原材料供应方的成本优势无法体现，上海虽然是当时中国最大的工业都市，但由于内向型经济导致东南沿海基本上吃不到航运红利，东北事实上垄断了中国经济的很大一部分供应工作，毕竟需要工业品时，你也基本上只能去东北或者上海采买，这种垄断地位遮蔽了东北经济运行的高成本和物流的高成本，而这种内向型经济环境和当时冷战的国际环境息息相关，简而言之，当时东北经济的繁荣，也是因为特殊国际环境导致缺乏竞争带来的。
俄罗斯帝国殖民——旧日本帝国殖民——新中国战时经济——苏联出售156个工业项目——冷战环境下的内向型经济，在这种连续不断的特殊历史境遇下，东北工业和经济在几十年间迎来了大繁荣，某种程度上说，东北当时的繁荣是这种特殊历史境遇导致经济规律无法正常生效带来的畸形后果，特别是东南沿海，明明和国际贸易主航道密切结合，却无法如世界上其它类似地区一样吃到航道红利，这是极其不正常的，而就算是吃不到航运红利，当时的上海也依然是中国最大的工业中心之一，这就是天然的区位优势。
中国的整个海岸线基本上都与国际贸易主航道相贴合，这导致中国天生就极其适合搞外向型经济，我虽然经常吹北美沃野千里，天府之土，但我们的东南沿海也同样是财货如山，寸水寸金，中国接入世界经济市场后，经济规律开始正常生效，这导致东南沿海开始爆炸式发展，相应的，东北也就开始了衰落，其实东南肥沃而东北寥落是中国历史上的常态，某种程度上说，东北和东南沿海只是逐渐回归到了它们在历史上的常态。
这些特殊历史境遇几乎都渗透着我们国家苦难而落后的历史印记，这些历史境遇把东北塑造的很繁荣，而东北自身又凭借这种繁荣成了这些时期扛起半个中国的脊梁，而东北支撑着中国熬过最艰苦的岁月，迎来经济规律正常生效的时期之后，东北自身又因为经济规律的生效而日渐衰落，辩证法的威力总是令人唏嘘不已。
另外你说到东北黑土地肥沃，实际上土地太肥沃有时候真不是啥好事，就说一说东北，东北有世界三大黑土带之一的东北黑土带，这对农业开发实际上的利弊参半的，东北先天农业条件最好的地区反而是看似不那么平坦的辽河流域，辽河流域看似山地相对较多，但因为土地不算湿润，所以开发难度较低，先天农业条件较好，春秋战国那会中国人就开始搞开发了。
但是过了四平，向北进入松花江流域和松嫩平原后，就坏了事了，这里确实地势平，土地肥，但问题是松花江流域水量太过丰沛，土地太过湿润，地势又太过平坦，再加上纬度高，气温低，蒸发量少，这导致当地有巨量的小池塘和沼泽地，甚至有丹顶鹤这种沼栖生物，电视剧闯关东里，主角朱开山和他的亲家交谈时经常提到的“水泡子”就是这类沼泽池塘，哈尔滨古代就被称为“打鱼泡”，这也是为什么满清明明守着松嫩大平原却不是农业民族而是渔猎民族的原因。
沼泽多的一个后果就是蚊子多，蚊子多传染病就多，一个冷知识是，杀人最多的生物不是人类，而是蚊子，蚊子叮咬带来的传染病杀死的人类比人类刀剑枪炮舰队战机互相攻杀杀死的人类还要多，当年日本关东开拓团在东北搞开拓的时候，被蚊子把狗脑子都咬出来了，他们又不肯向被他们视为贱民的中国民众请教防蚊的正确姿势，结果传染病疯狂肆虐。
东北地势平坦的好处是有利于大规模机械化作业，开着联合收割机在大块农田上驰骋是非常令人愉快的事，我没有体会过，但解放军叔叔体会过，体会后激动了一周，东北的农业条件是中国除了华北外最接近美国式农业的地区，劣势是需要定期进行排水作业和土地整理，实际上东北平原看似平坦，真正实现农业开发已经是新中国之后的事了，新中国有了拖拉机和抽水机之后，大规模土地整理和排水作业成为可能，这才开发了松嫩平原，即新中国历史上轰轰烈烈的开发北大荒运动，现代的北大荒集团就是当年的黑龙江农垦局，所以东北看着平，但实际上是一块必须进入工业化社会后才能有效开发的土地，开发历史甚至远远晚于明清就实现了开发的西南。
说到这里就说一说西南，题主问为啥东北现在显得像是连西南都不如了，其实西南不可一概而论，云贵川渝三省一市的情况各不相同，云南总体经济条件其实不如东北省份，但主要是老少边穷地区比较多，其实几个中心区域经济条件非常不错，后劲极大，贵州条件最差，但奇观锤的多，大力出奇迹，而且它是西南的交通枢纽，可以坐地收账……，条件最好的是四川和重庆，四川和重庆之所以条件好，原因也简单，因为有内河航运，特别是重庆，简直是一座冒充山城的港口城市，而且四川重庆的内河航运与东南沿海直接连接，换言之，他们的内河航运本质上是国际贸易主航道的内陆支流，还是最丰腴的中段的支流，说白了，还是吃到了航运红利，重庆火锅最初就是码头工和纤夫的民间美食……云南也有类似条件，就是澜沧江和湄公河流域，这也和国际贸易主航道相连接，缺点是入海口不在我们手里，在东南亚，而东南亚的地缘环境又破碎，湄公河澜沧江沿途国家互相间矛盾很大，如果能实现有效整合，那么云南和这些沿途国家也能吃到航运红利，另外云南还是珠江的源头……所以西南看似内陆，实际上反而比东北更容易吃到航运红利。
国家对东北的扶持力度实际上相当大，振兴东北真不是说说看的，有时候一些扶持措施甚至是无视经济规律的，比如一汽，一汽的产业核心早已转移至南方，比如商用车已经转移到了无锡，乘用车转移到了广州，上海，十堰等地，其内部早已有把总部搬迁到南方的声浪，没办法，东北的经济成本实在是太高，我国的东南沿海是真的聚宝盆，全世界都找不到几个这么丰腴的地方，但国家还是强压着让一汽把总部留在了长春。
比如辽宁舰，实际上辽宁舰的工程江南皮革厂也能搞，而且江南皮革厂的技术实力和产业条件说实话远远强于大连，皮革厂在长兴岛一期工程就有4个大型船坞，600吨以上龙门吊有7个，最大的船坞全长580米，宽120米，简直就和战锤里人类帝国在木星的朱庇特轨道造船厂一样，是真正的船舶工业巨无霸，但国家还是把辽宁舰工程的放在大连做，类似的例子还有055，055的制造分了一些给大连，也有照顾东北的意思。
比如前面提到的一重，我军的155火炮是在包头制成炮坯，然后把炮坯拉到齐齐哈尔钻孔制炮，但实际上包头是有能力钻孔的，之所以强行拉到齐齐哈尔钻孔，纯粹是为了照顾东北。
比如沈飞，沈飞就不说了，说多了又要吵，吵烦了。
比如烟草工业，香烟过滤嘴上包着的那个黄色的纸叫水松纸，东南和云南的烟草工业每年都需要巨量水松纸，国家以行政命令强行把一部分水松纸制造工作安排在了东北，南方各省也没有什么怨言，顶着陆运运输成本强行给东北输血，05年的时候有关人员就这个事情发过两句牢骚，上面只说了四个字“要讲政治”下面从此再无任何声音，另外东北本地烟草种植规模不大，只有亚布力，夹皮沟等地有一定种植规模，但国家还是从西南调拨烟草去东北，补充当地烟草原料，在当地开办烟草工业，并且以配额形式限制南方香烟进入东北市场，但是对东北烟草进入其它地区市场不设限，东北的一些香烟品牌全国可见，比如黑龙江的哈尔滨，比如辽宁的人民大会堂，比如吉林的人参，特别是吉林的人参，几乎完全依赖云南烟草进行生产，但南方的一些烟草品牌，在东北几乎很难看到。
东北的未来，大概率是继续去工业化，然后最终彻底变为农业区，因为农业算是东北唯一有较强竞争力的产业，因为农业对地理环境要求极高，东北经过这么些年的开发，其良好的农业条件可以在相当大程度上对冲东北经济运行成本高，物流成本高的问题，这些年国家一直在针对这个情况做布局，做准备，农化企业在东北的大规模业务拓展，特别是粮食和农资仓储规模的扩增有国家命令进行前期准备的因素在里面。
简而言之，靠山吃山，靠水吃水，地理条件对人类文明的限制是刚性的，是深远的，特殊历史条件下的特殊情况，会随着历史条件的变迁而同步发生改变。
