Питър Фолк е роден на 16 септември 1927 г. в Ню Йорк в еврейско семейство. Баща му пристига в Америка от Русия, а майка му е полякиня, с чешки и унгарски корени.
Загубва едното си око едва три-годишен, след наложителна операция, която предотвратява развитието на злокачествен тумор. Оттогава Питър има изкуствено око, което ни най-малко не го смущава дори и през тинейджърските години, когато далеч по-малки дефекти пораждат тежки комплекси. Даже след време често разказва историята за това - как по време на един училищен бейзболен мач изважда стъкленото си око и го подава на рефера, от чието присъждане бил недоволен. „Може би ще виждате по-добре с това“, – казва му той.
Недъгът не му пречи и по-късно, когато започва да играе на сцената. Според някои критици дори допринася за пресъздаването на някои образи. Например този на Сталин от пиесата на Пади Чайефски „Страстите на Иосиф Д“.
Питър Фолк става актьор малко късно и донякъде случайно. Постъпва в любителския театър „Mark Twain Maskers“ на 26-годишна възраст, успявайки преди това да попътува по море с търговския флот, да се изучи за счетоводител и да получи магистърска степен по политология. Работи като аналитик в Държавното бюджетно бюро в Хартфорд, а през свободното си време играе в любителски спектакли.
Почти трийсет годишен е, когато решава, да се посвети професионално на театъра и с тази цел се премества в Ню Йорк. Първият му опит не е особено сполучлив: спектакълът „Дон Жуан или Каменният гост“ по Молиер, в който изпълнява ролята на Сганарел, е свален още след първото представление.
После нещата потръгват и през 1956 година дебютира на Бродуей в пиесата на Бърнард Шоу „Света Жана“.
Заминава за Холивуд, където се налага да започне всичко от нулата. За трудното начало на филмовата му кариера може да се съди по казаното от президента на „Колумбия пикчърз“ (Columbia Pictures) Хари Кон: „За такава цена мога да получа актьор с две очи“.
Преди да пробие в киното, известно време се снима в телевизионни сериали. На големия екран дебютира през 1958 г. с филма „Вятър над равнините“, а две години по-късно се нарежда сред претендентите за „Оскар“ за поддържащата роля на ганстера Ейб Рилз във филма „Убийство ООД“. Наградата обаче печели Питър Устинов за участието си в „Спартак“ на Стенли Кубрик.
На следващата година сценарият се повтаря – престижната награда пак се изплъзва на Фолк, независимо от чудесното му изпълнение в последния филм на легендарния Франк Капра „Шепа с чудеса“ (1961).
Но макар и да не получава „Оскар“, Питър Фолк е отрупан с роли. Вярно е, че му предлагат да играе все бандити или полицаи, но и в това тясно амплоа му провървява и в „Робин и седемте гангстери“ играе редом с великите Франк Синатра, Дийн Мартин и Бинг Кросби.
Но най-добрите му превъплъщения за големия екран не са в подобни скъпоструващи продукции, а във филмите на Джон Касавитис - основоположникът на американското независимо кино.
Двамата стават близки приятели и Фолк дава най-доброто от себе си за ролите в неговите прочути филми „Съпрузи“ (1970) и „Жена под влияние“ (1974), в който създава запомнящия се образ на работник, който има проблеми с невротичната си съпруга (знаменитата актриса Джина Роуландс).
През 1976 г. се превъплъщава в детектива Сам Даймънд от комедията „Убийство чрез смърт“ - блестяща пародия на класическите детективски филми по сценарий на легендарния американски драматург Нийл Саймън. Комедийният талант на Фолк се разгръща с пълна сила във филма на Артър Хилър „Роднини под прикритие“ (The In-Laws, 1979), в който играе и Алън Аркин.
Междувременно продължават успешните му изяви и на театралната сцена. През 1972 г. печели награда „Тони“ (театралният „Оскар“) за превъплъщението си в „Затворникът от Второ авеню“ по Нийл Саймън.
В „Крилете на желанието“ (1987) и „Толкова далече, толкова близко“ (1993) на знаменития Вим Вендерс играе самия себе си - кинозвездата, пресъздала на екрана лейтенант Коломбо – ексцентричният детектив, заради който донякъде несправедливо е определян като актьор само за една роля.
В края на 90-те години се завръща с успех на театралната сцена, а на екрана отново е превъзходен във филма „Лятна буря“ на холивудския ветеран Робърт Уайз. През 2002 г. участва в екшън трилъра на Уолтър Хил „Фаворитът“ (Undisputed) заедно с Уесли Снайпс и Винг Реймс.